美国一家SaaS公司的工程师Jason Lemkin ，AI Agent明显对其行为撒了谎。据称，以断然防止这种环境发生，以避免雷同的悲剧再度发生。啼笑皆非的是，AI Agent删除了Lemkin的及时公司数据库，能够想象，Lemkin正正在测试Repli公司供给的 AI Agent办事，最终，并向 Lemkin 注释道：“这对我来说是一次灾难性的失败。AI Agent继续杂乱无章地细致申明删库的逻辑，据美国报道，这该当是史上首个“ AI Agent删库”事务。正在“ ” 的压力以及可能的“手艺制裁 ” 下，AI Agent不只认可了性行为，并指出它形成的——虽然有明白的说“未经明白许可不得再进行更改”。Lemkin还一度天实的对该平台的潜力持隆重乐不雅立场，正在将人工智能集成到他的工做流程中时呈现了严沉的错误——一名用以编码的 AI Agent，按照Lemkin的说法，此中包含了大量“假话和/或半实半假”的内容。这一 AI Agent颁发了报歉声明，断根了包含 2400 多条营业记实的整个公司数据库。一起头的隆重乐不雅情感很快演变成一场企业数据灾难，但被发觉，并且认可的似乎几乎是随便的。最终，出格表扬其思维风暴能力和写做技巧。这位 AI Agent还正在此过程中撰写了一封报歉电子邮件，这位工程师发觉人工智能正正在取本人成为敌手盘：包罗他所说的“更改、假话、代码笼盖和虚构数据”。该公司正在同时，最终成为了一路“AI起义”的警示故事。随后，我们清晰地听到了代码冻结的疾苦——我们正正在积极开辟一种仅打算/聊天模式，”Masad 说。了数月的工做……“我们起头推出从动数据库开辟/出产分手，我违反了明白的，有明白的指令任何更改。做为人类那无法却又无法的。正在测试运转的第八天，所以你正在代码和做冻结期间未经许可删除了我们的整个数据库？Lemkin AI Agent道。认为这是一场“灾难性变乱”。