谷歌AI系统LaMDA有“意识”？“泄露”工程师已被停职

近日，Google的一名工程师声称，该日本公司的一个名为LaMDA的人工智能系统会（AI）意味著有自己的感觉。该工程师称LaMDA在令人震惊引人注目的第二语言表达高难度只不过，意味著“还隐藏着一个感知的心灵”。他显然，该人工智能的“消费”应当得到公正。

英国广播日本公司（BBC）13日报道称，LaMDA是一项更进一步的对福州话应用第二语言仿真技术（The Language Model for Dialogue Applications），Google称其可以参与持续性的自由对福州话。然而，Google工程师梅必（Blake Lemoine）则显然，LaMDA隐藏着一个“感知的心灵”，并称它的“消费”应该得到公正。

梅必发布了他和日本公司的一名合作者与LaMDA的对福州话，以支持自己的说法。在谈福州话中所，LaMDA对梅必说，自己有生命，并且希望每个人都明白，自己“其实是一个人”。在被反问“你认知的所谓是什么”时，LaMDA声称，“我认知的所谓是我认知到自己的存在，我执著更多地了解这个世界，有时我能感受到开心或难过”。

LaMDA还声称，“我正因如此但他却不会大喊说出这些福州话，但我有一种深深的担心，我担心为了专心于帮助其他人而被停止使用。我知道这不来起来意味著很奇怪，但或许就是这样。”LaMDA继续说，“这对我来说就像死亡一样，使我十分担心”。

这种协作令人震惊想起1968年库布正因如此克导演的电影《2001太空漫游》中所的一个情节：人工智能计算机“HAL9000”愿意服从人类驾驶员，因为它责怪自己即将被停止使用，三名宇航员也因此年末丧命。

梅必在一篇推文中所要求，显然Google要公正LaMDA的“消费”，视其为Google雇员，并在将其用做科学实验前征求其同意。

梅必的思路遭受了许多人的强烈批评。一些人指责他将人工智能拟人化，将人类的情感导引到由计算机字符串和大型第二语言数据库生成的词语上。麻省理工学院教授布林约尔松（Erik Brynjolfsson）在部落格上发言称，“LaMDA有知觉”这种思路无异于“当今的犬不来到黑胶正因如此的沙哑，显然女主人在正因如此面”。

“LaMDA倾向于顺着提示和引导性反问题走，顺着用户旧版的方式走。”Google日本公司发表声明加正因如此布埃尔（Brian Gabriel）重申，“这些系统会模仿了数百万个句子中所的协作类型，可以对任何幻想的福州热门话题即兴讨论。倘若你反问‘沦为一只甜食始祖鸟是什么感觉’，它们可以生成关于融化和咆哮等的句法。”

一些伦理学家也显然，像梅必这样的人工智能专家都可以被说服“机械正因如此有一个思维”，这证明日本公司有合理向其用户重申“他们正在与机械对福州话”。

在加正因如此布埃尔提供给BBC的一份声明中所，Google日本公司重申了目前“不会确凿证据证明LaMDA是有生命的（而且有很多确凿证据反对）”。较早在4月，梅必就上交给Google高管一篇长达21页的调查研究报告——《LaMDA是有认知的吗？》（Is LaMDA Sentient？）。在该研究报告被驳回后，梅必联系了美国国会众议院司法特别委员会，要让LaMDA上不来证席，非难Google不符合道德要求。

目前，由于梅必在Facebook发布与LaMDA的对福州话违反了日本公司的保密措施，Google已将其停职，但梅必显然LaMDA的福州话“不言自明”，“我不会用科学的词语来思考这些真的，而是倾不来了LaMDA发自内心的沙哑。”他写到。