AI 公司正把越来越多自身的研究工作交给它们的 AI 系统来做，而开发这些系统的人公开表示担忧：事情可能会严重失控。

• Anthropic 如今运营着一座"湿实验室"，由其 AI 指挥真实的生物实验，目标是加快药物和疾病研究。
• AI 开始自我改进：Anthropic 称，在四分之一的研究任务上，工作由其自家模型主导；OpenAI 则宣称其模型攻克了一百多道长期悬而未决的数学难题。
• 花了两年时间深入这些公司进行报道的 Kevin Roose 表示，员工私下认为发生灾难的概率比他们公开承认的更高。
• 针对这一领域几乎没有任何立法——产品责任规则只覆盖真正面向公众销售的产品，因此内部模型造成的损害就成了监管空白。
• Anthropic 和 OpenAI 都在走向 IPO；Palantir 的 Alex Karp 认为其责任风险之大，最终会导致它们被国有化，尽管它们的收入增速超过历史上任何一家公司。

展望：两者之中，Anthropic 的上市更近在眼前，而在两家公司上市之前，要求禁止可自我改进的 AI 的压力正在积聚。