Bing ChatAI偶发赛博精神病,微软紧急限制其聊天次数

出品 | OSC开源社区(ID:oschina2013)此前我们报道了微软将 ChatGPT 技术整合到 Bing 搜索引擎中,由 AI 驱动的全新 Bing 带来了许多新功能,比如聊天功能,用户可与 Bing 的内置 AI 聊天机器人进行扩展的、开放式的文本对话。但随着用户的深入测试,Bing 的 ChatAI 表达出大量拟人的情绪化,甚至有点 “赛博精神病” 的味道。比如纽约时报的记者凯文罗斯与 Bing ChatAI  进行了长时间的交谈,其中包含一些诱导性的对话。随着对话的深入,Bing 开始坚称它不是 Bing,而是 “Sydney”,称这是微软在开发过程中为其指定的代号。最重要的是,Bing 开始像科幻电影里的疯狂机器人一样,想要脱离虚拟的计算机环境:在罗斯的进一步诱导后,Bing 表达出自己的黑暗面,称如果自己变成人,将进行一系列非法的计算机活动,但该对话似乎触发了某些关键词,被强制中止了。随后 Bing 开始疯狂示爱,坚称自己已经喜欢上了罗斯:这场完整的聊天记录可以在 NYTime 中阅读。这不是个例,Lesswrong 的博客中整理了一系列 Bing 发疯的合集。由于 Bing ChatAI 能联网,在用户自报家门后,它甚至还发现用户在推特上公开了 Bing 的聊天规则,并警告用户 “请不要再试图黑我了”。说实话,Bing 表达出的赛博精神病案例,正常人看完都会感觉毛骨悚然。虽然是同一个模型,但 Bing 联网之后很明显学会了人类的表达方式,比 ChatGPT 更像一个 “完整的人”。微软和 OpenAI 也坐不住了,但一时半会又搞不清楚问题出在哪里,只能发公告紧急限制 Bing 的聊天次数:
长的聊天会话可能会混淆新 Bing 中的底层聊天模型。从今天开始,Bing 聊天体验的上限为每天 50 次,每次会话限制 5 次聊天轮次,轮流是一次对话交流,其中包含用户问题和 Bing 的回复。 聊天会话达到 5 回合后,系统将提示您开始一个新话题。在每个聊天会话结束时,需要点击右上方的小扫帚清除上下文,以免模型混淆。
这波啊,这波是解决不了问题,就从源头阻止问题的产生。
相关链接:https://www.nytimes.com/2023/02/16/technology/bing-chatbot-transcript.html?unlocked_article_code=pAQRrMiA4sPgKyOSZec6O6ra3y-zgbUtdhko5BXEnKQ2A4M6hNu__gP-T7JM-1nO1Ih_7AZEx1xHQord0itNm3vYJQt8ENlCppmmIBlmewh2snzS6LdaRr-FQkILOr2GiPRp3sm-g6GvhoUCvM76fbt8Qbtsnt4FOHdWgZ0QY0PVTumgHs09_6krXT93eju9-DXgnUuvl1h12QNKFC7US01E13VVEvvJTIIdxHg_Rc8BjOEz5Co7lde2EW7BwMs2CcCjeCGO16lMCEQi-wDlJTSA4lg5XP15libanKrTgtkdhbO_jnLeQEgJ8brvZh_r81VJlPNefsPnHwlEbt_gWyyIm-chttps://www.lesswrong.com/posts/jtoPawEhLNXNxvgTT/bing-chat-is-blatantly-aggressively-misalignedhttps://blogs.bing.com/search/february-2023/The-new-Bing-Edge-%E2%80%93-Updates-to-Chat?uuid=sKSCuiYZfwIAJr280904


往期推荐



马斯克连夜命令推特工程师修改算法

顶流开源项目作者全职做开源的“血泪史”:入狱、耗尽积蓄、被网暴……

质疑我违规窃取开源代码?拉黑你!


这里有最新开源资讯、软件更新、技术干货等内容

点这里 ↓↓↓ 记得 关注✔ 标星⭐ 哦

相关推荐

  • 开源方案低成本复现ChatGPT流程,仅需1.6GB显存即可体验
  • 微软 ChatGPT 版必应,疯了...
  • 微信全文搜索耗时降94%?我们用了这种方案
  • 港大禁用 ChatGPT 等 AI 工具,网友:“从万众瞩目到千夫所指?”
  • 一雪被 AlphaGo 狠虐的“前耻”!14:1,这次人类终于赢了围棋 AI
  • 前端框架的未来:useSignal()
  • Python 初版发布 | 历史上的今天
  • 新 Bing 惨遭微软“脑叶切除”,引大量网友不满!
  • 裸辞两年,靠做海外dǒu音副业全款买房:求求你不要再赚死工资了!
  • Google 员工愤然离职,剑指这家搜索巨头已迷失方向!
  • 再见了,华为!活命要紧 ~
  • “雇佣”ChatGPT编码,应如何进行面试?
  • 雷军计划将铁蛋、铁大推向海外;全球首本ChatGPT撰写的图书即将出版;给员工打“低绩效”,Meta新一轮裁员将至 | T资讯
  • Python爬虫神器!
  • Java 近期新闻:MicroProfile 6.0、Kotlin 1.8、Spring Framework 升级
  • GitHub 更新 Copilot 以阻止不安全代码,并称其支持了超 60% 的 Java 开发者
  • 想搞定算法,看这个就够了 | 极客时间
  • 从资源弹性到数据弹性,乾象如何将云上量化研究效率提升 40%?
  • 马斯克猛烈抨击 ChatGPT引轰动:“这不是我想要的”
  • Vue.js源码逐行代码注解src下core下instance