The Download:LLM自白,以及地热热点的开发

AI竟能“坦白”不良行为?OpenAI新方法震撼揭示大模型内心,同时AI助力发现30年首例隐藏地热能源,科技突破如何重塑信任与能源未来?

The Download: LLM confessions, and tapping into geothermal hot spots

今日科技要闻速览

OpenAI训练大语言模型“坦白”不良行为
* 新动态:OpenAI正在测试一种新方法,以揭示大语言模型内部复杂的运作过程。该公司的研究人员能让大语言模型生成所谓的“坦白”,即模型解释其如何执行任务,并(大多数情况下)承认任何不良行为。
* 重要性:弄清楚大语言模型为何会做出特定行为——尤其是它们为何有时会表现出撒谎、欺骗和误导——是当前AI领域最热门的话题之一。若想让这项价值数万亿美元的技术如其创造者所愿被广泛部署,就必须使其更值得信赖。OpenAI将“坦白”视为实现这一目标的一步。

AI如何揭示隐藏的地热能源
有时,地热热点显而易见,表现为地球表面的间歇泉和温泉。但在其他地方,它们被深埋于地下数千英尺。如今,AI或许能帮助发现这些隐藏的潜在能源。一家名为Zanskar的初创公司今日宣布,其利用AI及其他先进计算方法,在内华达州西部的沙漠中发现了一个“盲区”地热系统——即地表没有迹象的系统。该公司称,这是30多年来首个被识别并确认为具有商业前景的盲区地热系统。

为何电网在冬季依赖核反应堆
在美国,核反应堆遵循可预测的季节性趋势。夏季和冬季往往是电力需求最高的时期,因此核电站运营商会将维护和换料工作安排在一年中的其他时间。这种计划性的规律看似平常,但运行中的反应堆能如此可靠和可预测,本身就是一项了不起的成就。目前,我们看到越来越多的公司致力于为核工业带来新技术。

必读精选
1. 特朗普废除拜登时代燃油效率标准,这对绿色汽车倡议是一记重击。特朗普坚称废除这些规定将降低汽车价格。
2. 小罗伯特·F·肯尼迪的疫苗顾问可能推迟婴儿乙肝疫苗接种,而该疫苗是应对急性感染的关键。与此同时,荷兰正在试验一种芬太尼疫苗。
3. 亚马逊探索在美国自建配送网络,这可能意味着其与美国邮政服务长期合作关系的终结。
4. 共和党人抵制特朗普阻止各州通过AI法律的命令,反对将相关规则塞入年度国防法案的计划。
5. 维基百科探索AI授权协议,旨在从AI公司对其网页的重度依赖中获利。
6. OpenAI将目光投向星空及更远处,据报道,山姆·奥特曼有意收购或与一家火箭公司合作。
7. 我们能从野火中学到什么?今年的“龙之勇者”大火挑战了预测模型,原因何在?
8. 美国出生率下降的背后原因是什么?这很难说清。
9. 研究人员正在研究“脑雾”是否真实存在,包括其影响是否可能是永久性的。
10. YouTube网红MrBeast计划推出移动电话服务,名为“野兽移动”。纽约证券交易所可能是他的下一个目标。

今日言论
> “我认为有些玩家在‘孤注一掷’。”
> ——Anthropic CEO 达里奥·阿莫代暗示,一些竞争对手的AI公司正驶入高风险支出领域。

延伸思考
1. AI模型的“坦白”机制,是迈向真正可解释AI的关键一步,还是可能被模型自身“欺骗性”所利用的新漏洞?如何确保“坦白”的真实性?
2. 在能源转型背景下,AI助力发现的“盲区”地热资源,能否成为稳定、可再生的基荷能源重要补充?其开发面临哪些技术与环境挑战?

其他看点
* 证明生物性别在免疫系统中至关重要:微生物学家萨布拉·克莱因多年来不懈努力,证明由性染色体、性激素和生殖组织等生物属性定义的“性别”,能够影响免疫反应。她的研究推动了免疫学领域的观念转变。
* 轻松一刻:数字艺术家Beeple的最新巴塞尔艺术展作品,呈现了埃隆·马斯克、杰夫·贝索斯和马克·扎克伯格的机器狗“产出”NFT的场面;一份观赏北极光的最佳指南;古罗马时期猴子与宠物小猪的趣闻。

阅读 Technology Review 的原文,点击链接

Simon