Anthropic의 아이러니: AI 개발 속도 늦추고 싶지만, AI는 이미 코드 80% 작성

AI 안전을 강조하며 개발 속도를 늦추자고 주장하는 Anthropic이 정작 자사 코드의 80%를 AI 모델인 Claude가 작성하고 있다는 사실을 공개했다. 바이라인 네트워크에 따르면, Anthropic은 ‘AI가 스스로를 만들 때(When AI builds itself)’라는 글에서 2025년 초 Claude 코드 출시 전 한 자릿수에 불과했던 AI 작성 코드 비율이 1년여 만에 80% 이상으로 급증했다고 밝혔다. AI가 AI 개발을 주도하고 있다는 뜻이다. 이런 상황에서 AI 개발 속도를 늦추자는 주장은 꽤나 아이러니하다.

AI가 AI를 만드는 시대, 통제는 가능한가

Anthropic의 발표는 AI의 자기 개선 속도가 우리가 생각하는 것보다 훨씬 빠르다는 점을 보여준다. AI가 개발 프로세스에서 핵심적인 역할을 하게 되면, 인간 개발자의 개입 없이도 AI가 스스로를 발전시켜 나갈 가능성이 커진다. 이는 기술 발전의 놀라운 속도를 의미하기도 하지만, 동시에 AI의 통제 가능성에 대한 근본적인 질문을 던진다.

AI가 코드의 대부분을 작성하고, 그 AI가 다시 더 나은 AI를 만드는 재귀적 고리가 형성된다면, 인간이 그 과정을 완전히 이해하거나 제어하기 어려워질 수 있다. Anthropic이 AI 안전을 강조하는 이유도 여기에 있을 것이다. 하지만 이미 걷잡을 수 없는 속도로 AI가 자기 증식을 시작했다면, 과연 인위적인 속도 조절이 가능할지는 미지수다.

국가 안보에 활용되는 AI, 윤리적 딜레마

더 흥미로운 점은 AI타임스 보도다. Anthropic이 미 국가안보국(NSA)에 약 6명의 엔지니어를 파견해 사이버 작전에 Claude Mytos를 활용할 수 있도록 지원하고 있다는 것. Anthropic은 미 국방부와 AI 기술의 군사 활용 범위를 두고 법적 분쟁을 이어가는 중인데도 말이다. 이는 AI 기술이 가진 양면성을 극명하게 보여준다. 인류의 발전에 기여할 잠재력과 동시에, 강력한 무기가 될 수 있는 위험성 말이다.

AI의 안전과 통제를 외치는 기업이 국가 안보 기관에 기술을 지원하는 현실은, AI 윤리 논의가 얼마나 복잡하고 다층적인지 보여준다. 기술 발전의 속도를 늦추자는 주장이 현실적으로 얼마나 실현 가능할지, 그리고 AI가 이미 우리 사회 깊숙이 침투하고 있는 상황에서 어떤 균형점을 찾아야 할지, Anthropic의 사례는 많은 질문을 던진다.