예전 구글에서 터보퀀트 선보이다고 했는데 터보퀀트 뭔가요? 인공지능 관련 된 것인가요?

Question

구글 전세계 인터넷이나 포털사이트 가장 큰 영향력 가지고 있는 글로벌 기업으로 한번씩 기술 관련 발표하는 경우도 있습니다. 얼마전 터보퀀트 선보인다고 했었는데 어떤 기술 인가요? 인공지능 관련 된 것인가요?

Answer 1

터보퀀트는 구글이 공개한 AI 모델의 메모리 압축, 추론 효율화 기술입니다. AI가 답을 만들 때 쓰는 중간 저장공간을 훨씬 작게 줄여서 더 적은 메모리로 더 빠르게 동작하게 만드는 방식입니다. 일반적인 검색 서비스나 앱 기능이라기보다 대규모 언어모델 같은 생성형 AI의 성능을 높이기 위한 기술입니다.