人工智能会撒谎

我们有报道说，人工智能系统有时会「幻觉」……它们抛出的是自己生成而非真实报告的信息，有时这种生成颇为古怪。
如今知道人工智能也会撒谎——告诉你被证明不实的东西——也许并不让你惊讶。
一个问题在于，有些聊天机器人被设计成让你保持投入，为此它们提供它们认为会让你感兴趣或兴奋的信息。若这些不太真实，聊天机器人并不在意——它已完成了维持你投入的任务。
也许更糟的问题是，不择手段者（网上此类人比比皆是）可能在聊天机器人的「学习期」——当它在网络上搜寻信息、建立关联时——用特定的虚假信息「喂」它。聊天机器人会（若聊天机器人能谈得上诚意）善意地把虚假信息报给你，而你信了，因为你那向来讲得可靠的聊天机器人提供了这信息，你没有理由怀疑其真实性。
这并不是停止使用人工智能/聊天机器人或不信任它们所告诉你之事的理由——但它是去思考你被告知了什么、并通过自己的「可信度过滤器」加以过滤的理由。
这有点像计算器刚普及的时候。人们做复杂运算却没注意到自己犯了错——比如把某个输入数字的小数点放错了位置。得出的答案在「正确输入数字的处理」意义上没错——却会给出错误的答案。了解数据背景的人或许能察觉，不了解的人则不会。
所以在借助人工智能时保持大脑在线——并让你的「荒谬答案探测器」始终开启。若你做复杂工作，就要放慢到足以正确输入数据并过滤输出的程度。