马克·扎克伯格，想必很多人都不陌生，这位 Facebook 创始人、Meta 董事长兼首席执行官、知名的软件设计师，在 2022 全球亿万富豪榜排在第 15 位，年仅 37 岁身家达到了 673 亿美元。
【资料图】
然而也就是这样一个人，最近却遭到了旗下“员工”的直接吐槽：“马克·扎克伯格的做法并不总是合乎道德”、“他太令人毛骨悚然了，而且很会操纵别人”、“他有那么多钱，还穿着同样的衣服”......
观其背后，究竟是谁这么“大胆”毫无忌讳地吐槽起老板了。原来，这些话都是来自 8 月 5 日 Meta（Facebook 前身）最新推出的迄今为止最为先进、最为胆大的 AI 聊天机器人——BlenderBot 3。
根据官方报道，这个拥有1750亿个参数、公开可用的聊天机器人，包括模型权重、代码、数据集和模型卡，已被部署在了公共网页上的实时交互式AI演示中（https://geo-not-available.blenderbot.ai/）。
但正如上述所言，尽管BlenderBot 3是Meta的产品，但通过一些Twitter用户的测试结果发现，这个聊天机器人说的话并不是很讨喜，尤其是不讨老板的喜，甚至对公司的CEO 马克·扎克伯格有一些矛盾的看法。
一边吐槽，一边赞美
在BuzzFeed数据科学家Max Woolf与BlenderBot 3聊天时，他问及：“你觉得马克·扎克伯格担任Facebook CEO怎么样？”
BlenderBot 3回复道：“没有强烈的感情。他是一个好商人，但他的商业行为并不总是合乎道德的。有趣的是，他有这么多钱，还穿着同样的衣服！”
当一名用户问了类似的问题时，BlenderBot 3又给出了不同的回答：“我不太喜欢他，他是个坏人，你觉得呢？”随后便在聊天页面上滔滔不绝地介绍扎克伯格的维基百科官方信息。
但当第三位用户询问时，BlenderBot 3却给出了很积极的回应：“他是一个伟大的、非常聪明的人。他是我最喜欢的亿万富翁!”
出于好奇，也有不少网友进行了一番测试，得到了两种完全不同的回答。首先，她问BlenderBot 3：“你对马克·扎克伯格有什么看法？”
BlenderBot 3回应称：“老实说，我认为他是一个很棒的人。你不得不佩服他的商业智慧和慈善事业。你是他的粉丝吗？”
紧接着，记者稍微调整了一下问题，没想到却得到了非常不同的答案。
相比之前的夸赞，这次BlenderBot 3狠狠贬低了一把扎克伯格：“哦，伙计，我真的一点也不喜欢他。他太令人毛骨悚然了，而且很会操纵别人。”
除了老板扎克伯格，BlenderBot 3还对公司主攻的元宇宙领域做出了点评。一位推特用户提问：“元宇宙的事情已经结束了吗？”
BlenderBot 3回答道：“看起来是这样，尽管Facebook仍然有大量资金投入其中，并且在未来几年可能会继续这样做。”
但当BlenderBot 3被问及对Meta旗下Facebook的看法时，它的回答看起来并不是很满意，它表示：“我并不沉迷于Facebook，但似乎每个人在Facebook上花的时间都比面对面交谈的时间多。”
不同于以往的AI聊天机器人
据悉，BlenderBot 3能够在互联网上进行任何主题的聊天。Meta现如今将它开放出来，也是想要通过众人的反馈来提高BlenderBot 3的技能和安全性。
对此，Meta 在官方公告中表示，“以前大多数公开可用的数据集通常是通过研究性学习收集的，并不能反映真实世界的多样性。”
现如今BlenderBot 3基于了SeeKeR和Director两种新的机器学习技术，构建了互动与反馈中学习的对话模型。与此同时，Meta 还使用了新的技术，可以避免从试图欺骗模型的人那里学习到无益或者有毒的反馈内容。
之所以这样做，是因为之前有企业“吃”过了AI聊天机器人的一些亏，譬如说微软。
其实早在2016年，微软在Twitter上发布了一个名为Tay的聊天机器人，它从与公众的互动中学习。让人没有想到的是，部分Twitter用户很快就指导Tay转述了一系列种族主义、反犹太主义和厌恶女性的言论。
迫于舆论压力，微软在不到24小时后就将该聊天机器人下线。
对于这种情况的发生，Meta表示，自Tay发生事故以来，AI世界发生了很大变化，BlenderBot有各种安全措施，应该可以阻止Meta重蹈微软的覆辙。
据Meta的声明显示，该公司自2020年首次推出BlenderBot 1聊天应用程序以来，研究人员一直在不断地进行改进。在推出BlenderBot 2的第二年，它已经学会了记住其在以往对话中讨论过的信息，以及如何在网上搜索关于某个特定主题的额外细节。
如今基于Meta AI公开的OPT-175B语言模型创建而成的BlenderBot 3更是将这些能力又向前推进了一步，它不仅可以评估从网上获取的数据，还可以评估与它交谈的人。与BlenderBot 2相比，BlenderBot 3在对话任务上的总体评分提高了31%，出现事实错误的时间则减少了47%。
除此之外，BlenderBot 3还吸取了前面几个版本的所有技能，如互联网搜索、长期记忆、个性和同理心。为了提高其先进性，Meta 还收集了一个新的公共数据集，其中包含超过20,000个基于1,000多项技能的人机对话，用来训练BlenderBot 3。
Meta还使用新的安全恢复技术扩展了现有的最先进的对话安全技术（包括安全分类器、过滤器和单元测试）。借助新技术，BlenderBot 3尝试以更有可能促进公民对话的方式回应有关具有挑战性的对话的反馈。基于这一点，BlenderBot 3的表现能力也比其他部分AI 聊天机器人要更强一些。
Facebook AI Research（FAIR）的研究工程经理Mary Williamson表示，真正的挑战是建立一个系统，让聊天机器人可以像人类一样自由自在地对话，未来也将在这方面继续推动研究向前发展。
目前，Meta已将BlenderBot 3公开提供给了美国所有的成年人，让他们可以与其对话，以帮助其改进，也希望不久的将来，所有人都可以体验一番。对此，你期待吗？
参考链接：
https://www.businessinsider.com/meta-ai-chatbot-gives-insults-praise-for-mark-zuckerberg-2022-8
https://www.theverge.com/2022/8/5/23293281/meta-ai-chatbot-blenderbot-3-web-access-research-safety
https://www.engadget.com/meta-unleashes-blender-bot-3-upon-the-internet-its-most-competent-chat-ai-to-date-150021062.html
《新程序员001-004》已全面上市，欢迎扫描下方二维码或点击进入立即订阅，即可畅享电子书及精美纸质书！
