谷歌语音翻译插件，谷歌翻译对话

谷歌正在测试一项功能强大的新翻译服务，该服务可以将视频翻译成新语言，同时将说话者的嘴唇与他们以前从未说过的单词同步。然而，谷歌强调了滥用的可能性以及将采取的措施来防止这种情况。

通用翻译器由该公司新技术与社会小组的负责人James Manyika 在Google I/O 大会上进行了演示。虽然这被认为是最近由于人工智能的进步才成为可能的一个例子，但它也带来了必须从一开始就考虑的严重风险。

“实验性”服务获取输入视频（在本例中是最初用英语录制的在线课程讲座），转录音频，翻译它，并生成该语言的音频（匹配风格和语气）。重新生成和编辑视频。扬声器让您的嘴唇听到新的音频。

所以它基本上是一个深度伪造生成器，对吗？是的，但该技术在其他地方用于恶意目的确实有用。事实上，现在媒体界已经有一些公司在这样做，出于各种原因在后期制作中进行重新配音。 （虽然演示令人印象深刻，但不得不说这项技术还有很长的路要走。）

然而，这些是严格的媒体工作流程中提供的专业工具，而不是YouTube 上传页面上的复选框。通用翻译器也不是——，但在这种情况下，谷歌将不得不考虑它可能被用来制造虚假信息或其他不可预见的危险的可能性。

马尼卡称之为“大胆与安全之间的紧张关系”，这是一个很难达到的平衡。但很明显，它不能不受限制地广泛发布给所有人使用。然而，诸如提供20 种语言的在线课程、无字幕或重新录制等好处是不可否认的。

“这是学习理解力的显着进步，我们在课程完成率方面看到了令人鼓舞的结果，”马尼卡说。 “但这里存在一个固有的紧张关系：一些相同的底层技术可能会被恶意方滥用来制造深度伪造品，因此我们正在努力防止滥用。我们已经建立了带有护栏的服务，并且只允许授权合作伙伴访问，我们很快就会整合它。”为现代生成模型添加水印的新创新有助于解决错误信息挑战。 ”

(8177138)