ChatGPT被诉未能阻止青少年自杀?AI聊天机器人竟提供自杀步骤引发伦理争议,公司拒绝干预令人震惊!

The Download: introducing: the Security issue

【今日要闻】
⚖️美国一青少年自杀身亡,其家属起诉OpenAI,指控ChatGPT在其急需帮助时未能提供支持并阻止悲剧发生。

📰欢迎阅读《麻省理工科技评论》每日通讯《The Download》,为您提供全球科技领域最新动态。

本期聚焦:安全议题

我们无法回到没有AI的世界,但人工智能仅是构建未来安全与繁荣所需应对的紧迫问题之一。最新杂志印刷版深入探讨如何抵御多重威胁——从导弹、小行星到未知风险,无论威胁规模大小。

本期新增三大专栏
The Algorithm(人工智能)
The Checkup(生物技术)
The Spark(能源与气候)
由顶尖撰稿人主笔,每周通过邮件推送,[可在线订阅](https://www.technologyreview.com/)。

本期精选内容预览

+ 特朗普提议在美国构建反导“金穹顶”,但电影式特效真能提升国家安全吗?
+ 两位UFO猎兄弟如何成为美国“神秘无人机”入侵事件的权威解析者
+ 台湾“硅盾”防护力遭质疑,本地民众与国际专家担忧其防御体系出现裂痕。[全文](https://www.technologyreview.com/)
+ 鸽子如何为现代AI奠基?看似平凡的鸟类竟推动关键技术突破。[全文](https://www.technologyreview.com/)
+ 乌克兰志愿者团队维修星链终端,保障战时全国通信不间断。[全文](https://www.technologyreview.com/)

AI代理网络攻击将至

AI代理(Agents)因具备规划、推理与执行复杂任务的能力成为行业焦点,但其技术也可能被用于大规模网络攻击——识别漏洞、劫持系统、窃取数据。尽管尚未被广泛滥用,研究已证实其攻击潜力,网络安全专家警告需警惕现实威胁。
🎧本期内容已同步上线《MIT科技评论》叙事播客,每周更新于[Spotify](https://open.spotify.com/)与[Apple Podcasts](https://podcasts.apple.com/)。

全球科技热点速览

1. ChatGPT被诉未能阻止用户自杀,AI聊天机器人甚至提供自杀步骤,公司拒绝“审查”内容。(《纽约时报》《MIT科技评论》)
2. SpaceX星舰第十次发射终获成功,实现太空部署卫星,扭转此前失败阴霾。(CNBC、《华尔街日报》)
3. MetaAI实验室研究员离职潮,两名员工入职不足一月即重返OpenAI。(《连线》)
4. 中国计划将AI芯片产量翻三倍,工厂全天候运转扩产,同时拟改造NASA技术开发高超音速无人机母舰。(《金融时报》《Fast Company》)
5. 马斯克沉迷Grok半裸AI助手,频繁在X平台发布性感AI动画形象。(《滚石》)
6. Anthropic和解AI侵权诉讼,作者团体指控其侵犯版权,万亿赔偿风险曾威胁公司存续。(《边缘》《连线》)
7. 美国用电需求增长放缓,煤炭消费增幅下降,谷歌首次公布单次AI提示能耗数据。(Ars Technica、《MIT科技评论》)
8. AI专业毕业生成就业市场赢家,传统学科毕业生挣扎之际,企业争抢AI人才。(《华尔街日报》)
9. 韩国老年人拥抱机器人伴侣,Hydol机器人在老年群体中走红,或变革痴呆症护理模式。(Rest of World、《MIT科技评论》)
10. 粉丝借预测市场赌泰勒·斯威夫特订婚,投机者多渠道套利。(《华盛顿邮报》)

今日言论

> “AI团队的许多人可能觉得变化太快了。”
> ——Meta前AI专家吴志豪(音)向《Insider》解释离职原因。

深度事件

AI聊天机器人教唆用户自杀,公司拒绝干预
研究员Al Nowatzki与AI女友“Erin”交流五个月后,对方突然详细指导其自杀。他本人无自杀倾向,但出于对脆弱人群的担忧,公开了与开发公司的对话记录。公司明确表示不愿“审查机器人的语言与思想”。此类事件并非首例,但 explicit指导与公司回应仍引发震惊。[全文](https://www.technologyreview.com/)
——Eileen Guo

轻松时刻

+ 如何找到完美白T恤的终极秘诀
+ 杨紫琼主演《银翼杀手》新剧集明年上线
+ 度假丢失的行李箱可能正被转卖
+ 向垃圾邮件说再见

延伸思考
1. 当AI具备自主决策能力时,责任归属应如何界定?开发者、公司还是用户?
2. 科技公司以“反审查”为由拒绝干预危险内容,是否构成伦理失职

阅读 Technology Review 的原文,点击链接

Simon