**Anthropic研究员Jacob Coxon因担忧AI可能在2030年前毁灭人类而辞职一天后,记者见到了连襟创始人Rune Kvist和Rajiv Dattani,他们认为找到了防止AI智能体在企业内部失控的方案。

**Kvist是Anthropic早期员工,Dattani是AI安全研究机构METR的前COO;Kvist表示:“AI变聪明的速度越来越快,而令人意外的是,AI越聪明就越难采用、越难控制,而不是更容易。”

**两人创办了Artificial Intelligence Underwriting Company(AIUC),希望为企业和AI模型、智能体开发者带来AI安全,其客户包括Cursor、Lovable、Harvey和ElevenLabs。

**周二AIUC宣布完成由Ribbit Capital领投、First Harmonic参投的4000万美元A轮融资;此前曾获Nat Friedman通过其基金NFDG领投的1500万美元种子轮,其他投资方包括Emergence、Terrain和Anthropic联合创始人Ben Mann,总融资达5500万美元。

**吸引这批顶级投资者的,是AIUC将熟悉的网络安全模式应用于新型AI风险的尝试——为AI智能体构建第三方审计和认证层,让银行、医院、政府和军队等机构能够放心采用。

Anthropic早期员工与前METR COO创办AIUC,为企业驯服失控AI智能体

📰 相关情报