카일 킹스버리, 대규모 언어 모델 확산에 따른 소프트웨어 신뢰 저하 지적

젭센(Jepsen)의 카일 킹스버리는 데이터베이스 분석 결과를 통해 대규모 언어 모델(LLM)의 활용이 소프트웨어와 기술 문서, 이를 제작하는 조직 전반의 신뢰를 떨어뜨리고 있다고 언급했다. 성숙한 시스템을 판별하던 기존의 신호들을 인공지능으로 모방하기 쉬워지면서 엔지니어들이 새로운 소프트웨어 프로젝트를 의심을 갖고 대하게 될 수 있다는 설명이다.

그는 대규모 언어 모델이 널리 쓰이는 환경에서 프로젝트 관리자가 올바른 소프트웨어와 정확한 문서를 어떻게 보장할 수 있는지 의문을 제기했다. 아울러 관련 작업을 수행한 뒤 사용자에게 소프트웨어의 품질을 어떻게 증명할 수 있을지에 대해서도 과제를 던졌다.