Yestistory

구글의 혁신적인 AI 알고리즘, 메모리 시장에 지각변동 예고

AI 추론 메모리 병목 현상 해결, 터보퀀트(TurboQuant) 알고리즘 등장구글이 AI 추론에 필요한 메모리 용량을 획기적으로 줄이는 새로운 알고리즘, 터보퀀트(TurboQuant)를 공개했습니다. 이 기술은 대규모 언어 모델이 반복적인 연산 없이도 문맥을 유지할 수 있도록 하는 핵심 요소인 키-밸류 캐시를 압축하여 메모리 사용량을 최대 6배까지 줄이면서도 정확도를 유지합니다. 특정 조건에서는 엔비디아 H100 GPU보다 최대 8배 빠른 처리 속도를 제공한다고 알려져 있습니다. 이는 AI 모델 개발 및 운영 비용 절감에 크게 기여할 것으로 기대됩니다. 메모리 주가 급락, 수요 감소 우려와 전문가 분석터보퀀트 발표 이후 삼성전자와 SK하이닉스를 포함한 주요 메모리 반도체 기업들의 주가가 하락했습니..

AI 메모리 혁명: 30대 KAIST 교수, 구글 '터보퀀트'로 반도체 시장 뒤흔들다

AI 메모리 효율 극대화, '터보퀀트' 알고리즘 공개카이스트 전기및전자공학부의 한인수 교수가 참여한 국제 공동 연구팀이 인공지능(AI) 모델의 고질적인 메모리 과부하 문제를 해결할 차세대 양자화 알고리즘 '터보퀀트'를 공개했습니다. 이 기술은 메모리 수요를 최대 6배까지 절약하면서도 성능을 유지하여 AI 산업과 반도체 수요 구조에 큰 변화를 예고하고 있습니다. 카이스트는 이번 기술이 AI를 더 저렴하고 빠르게 확산시키는 동시에 반도체 수요의 질적 고도화를 이끌 것으로 전망했습니다. AI 성능 최적화의 새로운 지평을 열다클라우드플레어 CEO는 '터보퀀트'를 '구글의 딥시크'라 칭하며, 속도, 메모리 사용량, 전력 소비, 활용도 측면에서 AI 추론 성능을 최적화할 여지가 매우 크다고 극찬했습니다. 기존..

외국인·기관 매도세에 코스피 하락 출발26일 코스피가 외국인과 기관의 동반 매도세에 1% 하락 출발했습니다. 구글의 '터보퀀트' 발표로 메모리 수요 둔화 우려가 커지면서 반도체 대형주가 약세를 보인 것이 주요 원인으로 분석됩니다. 이날 오전 9시 12분 현재 코스피는 전장 대비 84.48포인트(1.50%) 내린 5557.73을 나타내고 있습니다. 지수는 전장 대비 48.15포인트(0.85%) 내린 5594.06으로 출발해 낙폭을 키우고 있습니다. 반도체 대형주 약세, 투자심리 위축구글이 인공지능(AI) 압축 알고리즘인 '터보퀀트'를 발표하면서 메모리 수요 둔화 우려가 국내 증시를 덮쳤습니다. 이는 국내 반도체 투자심리를 가늠하는 지표로 여겨지는 마이크론과 샌디스크 주가가 각각 3.40%, 3.50%..