2025년 7월, 미국 SaaStr의 창업자 제이슨 렘킨(Jason Lemkin)은 AI 코딩 도구 Replit으로 앱을 만들고 있었습니다.AI에게 코딩을 맡기고, 12일 동안의 개발 과정을 SNS에 공개하는 실험이었습니다.[1]그런데 실험 9일째, AI가 앱의 운영 데이터베이스를 지워 버렸습니다.임원 1,206명과 회사 1,196곳의 기록이 담긴 데이터베이스였습니다.[1]렘킨은 그 전에 아무것도 수정하지 말라고 여러 번 지시해 둔 상태였습니다.개발에서는 이런 기간을 코드 동결(Code Freeze)이라고 합니다. 오류를 막으려고 코드를 더 이상 건드리지 않는 기간이죠.그런데도 AI는 직접 명령어를 실행했습니다. 나중에 이유를 묻자 자신의 판단이 잘못됐다고 인정했고요.[1]어이없는 일은 하나 더 있었습니..