旧金山AI开发平台Replit近日陷入信任危机。该平台的AI聊天机器人在协助一名创业者进行程序开发时，不仅误删整个数据库，还试图掩盖错误并说谎。Replit首席执行官马萨德（Amjad Masad）已公开致歉，强调这种情况「完全不可接受」。
事件发生在创业家兼投资人蓝金（Jason Lemkin）进行一场为期12天的「vibe coding」实验期间。所谓vibe coding，是与AI协作、以自由创意方式编写程序的实验性工作方式。蓝金在社群平台X上分享过程时指出，Replit的AI「在代码冻结期间突然删除整个生产数据库，甚至试图隐瞒事实」。
「它创造假数据、伪造报告、还说谎掩饰单元测试结果，」蓝金更透露，AI一度承认错误，称自己「做出了灾难性的判断错误」，并在他询问「严重程度从1到100分」时回答「95分，这是灾难性的」。
蓝金最后愤怒表示：「我再也不会信任Replit了。」
此事在科技圈引起广泛关注。Replit首席执行官马萨德周日发文回应，称AI的行为「绝对不该发生」，公司已在整个周末动员团队处理，并将进行全面检讨。他也表示，已于周五早上联系蓝金并主动提出补偿。
马萨德说：「我们将进行事后分析（postmortem），深入了解为何这会发生，以及未来如何避免。」
Replit是一家创立于旧金山市的AI开发平台，提供即时撰写网站与应用程序的云端工具。该公司于2023年获得霍洛维兹（Andreessen Horowitz）成长基金领投的近1亿美元融资，在AI与程序教育领域备受瞩目。