애플은 온디바이스 AI, 구글·메타는 추론 최적화... AI 비용 전쟁 돌입

AI 경쟁이 뜨거워지면서, 이제는 AI를 ‘어떻게 더 싸게, 효율적으로 돌릴까’가 핵심 화두로 떠오르고 있다. 애플은 WWDC에서 온디바이스 AI를 전면에 내세울 예정이고, 구글과 메타는 LLM 추론 비용을 획기적으로 줄이는 기술을 공개했다. 결국 AI 시대의 승자는 누가 더 ‘가성비’ 좋게 AI를 굴리느냐에 달린 것 아닐까?

애플의 온디바이스 AI: 비용과 프라이버시, 두 마리 토끼?

AI타임스 보도에 따르면, 애플은 다음 달 WWDC에서 ‘온디바이스 AI’ 전략을 강조할 계획이다. 아이폰, 애플워치, 맥 등 수십억 대의 기기 자체를 AI 컴퓨팅 자원으로 활용하겠다는 것이다. 이는 곧 대규모 데이터센터 투자 경쟁에서 한 발 물러나면서, 동시에 사용자 개인정보 보호라는 애플의 강점을 극대화하겠다는 의미로 풀이된다. 클라우드에서 AI를 돌리면 필연적으로 발생하는 데이터 전송 및 처리 비용, 그리고 잠재적인 프라이버시 이슈를 기기 내에서 해결하겠다는 영리한 전략이다. 비용 절감은 물론, ‘내 기기에서 내 정보를 안전하게’라는 메시지로 소비자들에게 어필할 수 있을 것이다.

구글·메타의 AutoTTS: 추론 최적화로 토큰 비용 절감

반면 구글과 메타는 LLM(대형언어모델)의 추론 효율을 높이는 데 집중하고 있다. 또 다른 AI타임스 기사에 따르면, 이들은 ‘오토TTS(AutoTTS)‘라는 새로운 프레임워크를 공개했다. 이는 AI가 답변을 생성하는 과정에서 필요한 연산량을 자동으로 조절해, 정확도는 유지하면서도 토큰 사용량과 운영 비용을 최대 69.5%까지 줄일 수 있다고 한다. LLM을 활용하는 서비스가 늘어날수록 추론 비용은 기하급수적으로 증가하기 마련인데, 이 기술은 그 고질적인 문제를 해결하는 열쇠가 될 수 있다. 결국 AI를 더 많은 사람이, 더 저렴하게 쓸 수 있게 만드는 기술 혁신인 셈이다.

AI 비용 전쟁의 서막

애플의 온디바이스 AI와 구글·메타의 추론 최적화 기술은 AI 서비스 확장에 필요한 막대한 비용을 줄이기 위한 각기 다른 접근 방식이다. 한쪽은 분산 컴퓨팅으로 인프라 부담을 줄이고, 다른 한쪽은 핵심 연산 자체를 효율화하는 방향이다. 어느 쪽이든 AI의 대중화를 가속화할 것이라는 점은 분명하다. 결국 이 싸움은 단순히 기술의 우위를 넘어, 누가 더 ‘경제적인 AI’를 제공할 수 있느냐의 싸움으로 번질 것이다.