Yestistory

구글의 혁신적인 AI 알고리즘, 메모리 시장에 지각변동 예고

AI 추론 메모리 병목 현상 해결, 터보퀀트(TurboQuant) 알고리즘 등장구글이 AI 추론에 필요한 메모리 용량을 획기적으로 줄이는 새로운 알고리즘, 터보퀀트(TurboQuant)를 공개했습니다. 이 기술은 대규모 언어 모델이 반복적인 연산 없이도 문맥을 유지할 수 있도록 하는 핵심 요소인 키-밸류 캐시를 압축하여 메모리 사용량을 최대 6배까지 줄이면서도 정확도를 유지합니다. 특정 조건에서는 엔비디아 H100 GPU보다 최대 8배 빠른 처리 속도를 제공한다고 알려져 있습니다. 이는 AI 모델 개발 및 운영 비용 절감에 크게 기여할 것으로 기대됩니다. 메모리 주가 급락, 수요 감소 우려와 전문가 분석터보퀀트 발표 이후 삼성전자와 SK하이닉스를 포함한 주요 메모리 반도체 기업들의 주가가 하락했습니..

AI 메모리 혁명: 30대 KAIST 교수, 구글 '터보퀀트'로 반도체 시장 뒤흔들다

AI 메모리 효율 극대화, '터보퀀트' 알고리즘 공개카이스트 전기및전자공학부의 한인수 교수가 참여한 국제 공동 연구팀이 인공지능(AI) 모델의 고질적인 메모리 과부하 문제를 해결할 차세대 양자화 알고리즘 '터보퀀트'를 공개했습니다. 이 기술은 메모리 수요를 최대 6배까지 절약하면서도 성능을 유지하여 AI 산업과 반도체 수요 구조에 큰 변화를 예고하고 있습니다. 카이스트는 이번 기술이 AI를 더 저렴하고 빠르게 확산시키는 동시에 반도체 수요의 질적 고도화를 이끌 것으로 전망했습니다. AI 성능 최적화의 새로운 지평을 열다클라우드플레어 CEO는 '터보퀀트'를 '구글의 딥시크'라 칭하며, 속도, 메모리 사용량, 전력 소비, 활용도 측면에서 AI 추론 성능을 최적화할 여지가 매우 크다고 극찬했습니다. 기존..

삼성전자, AMD와 차세대 AI 메모리 동맹 구축삼성전자가 AMD와 손잡고 차세대 인공지능(AI) 메모리 동맹을 구축하며 글로벌 AI 반도체 공급망 주도권 경쟁에 본격적으로 뛰어들었습니다. AMD의 차세대 AI 가속기 'Instinct MI455X' GPU에 삼성전자의 HBM4가 우선 공급될 예정이며, 이는 AI 가속기의 핵심인 메모리 시장에서 삼성전자의 영향력을 확대하는 중요한 계기가 될 것입니다. 전영현 삼성전자 DS부문장 부회장은 삼성의 독보적인 턴키 역량을 강조하며 AMD의 AI 로드맵을 지원할 수 있음을 밝혔습니다. 리사 수 AMD CEO는 삼성의 첨단 메모리 기술과 AMD의 GPU·CPU·플랫폼 역량 결합의 중요성을 역설했습니다. HBM4 경쟁력 강화 및 파운드리 협력 논의삼성전자는 지난..