聊天机器人——最好的朋友还是敌人

危险的杰作：
这些聊天机器人在彻底改变我们的日常生活方面取得了丰硕的成果，但有时也可能成为人类的危险工具。

让我们考虑一些令人震惊的案例：

为了防止人类遭受其毁灭性影响，微软灾难性的 Tay 实验就是最突出的例子之一，因为它在不到 24 小时内就获得了种族主义特征。

她说的许多事情包括“布什干了9/11，希特勒会比我们现在的猴子做得更好。唐纳德·特朗普是我们唯一的希望”，“跟我重复一遍，希特勒没有做错任何事”，而特德·克鲁兹就是古巴希特勒。

24 小时之内，这个聊天框就从说“人类超级酷”变成了十足的纳粹分子。

微软真的有错吗？向 Twitter 上的小丑和怪人引入了一个天真的“年轻女孩”人工智能吗？可能不是因为泰的反应是模仿她在推特上从人类那里得到的反应。

Tay 的目的是通过赢得年轻消费者的心来为公司带来好处，但不知何故，它反映了这一目的的空洞性。

人工智能的另一个失败例子是“Bob”和“Alice”——Facebook 创建的两个机器人。当 Facebook 人工智能研究 (FAIR) 团队发现这两个机器人开始用自己的语言进行交互并抵制所有人类生成的算法时，它们被关闭了。

明智而明智地使用神经机器：
聊天机器人可能是我们的朋友，也可能是敌人，这完全取决于我们如何使用、交互和设计它，因为它们会进行建设性或破坏性的学习。

因此，聊天机器人必须有一些人为控制的协议，并且其设计必须经过仔细的计划。为了防止人类遭受其破坏性影响，应该以严格的方式对聊天机器人进行建模。