Yestistory

구글 '터보퀀트', AI 업계의 뜨거운 감자전 세계 인공지능(AI) 업계의 이목이 브라질에서 열리는 ICLR(세계인공지능학회)에 집중되고 있습니다. 구글이 공개한 AI 메모리 압축 기술인 '터보퀀트'에 대한 구체적인 검증이 이뤄질 예정이기 때문입니다. 구글은 이 학회에서 터보퀀트 관련 논문을 공식 발표하고, 동료 연구자들의 검증을 거쳐 실제 프로그램 코드를 공개할 계획입니다. 터보퀀트는 거대언어모델(LLM)이 문맥을 기억하는 'KV캐시'를 압축해 메모리 사용량을 획기적으로 줄이는 기술로, 기존 16비트에서 3~4비트로 효율성을 높입니다. 메모리 반도체 시장, '터보퀀트 쇼크'인가 기회인가터보퀀트가 메모리 사용량을 6분의 1로 줄이면서 미국 마이크론, 삼성전자, SK하이닉스 등 메모리 반도체 생산 기..

AI 기술 발전, 메모리 반도체 시장의 새로운 위협AI 모델 운영에 필요한 메모리 수요를 최대 6배까지 줄일 수 있는 '터보퀀트' 기술이 등장하며 메모리 반도체 업황에 대한 구조적 우려가 커지고 있습니다. 이는 AI 기술 발전의 이면에 숨겨진 새로운 위협으로, 관련 기업들의 주가에 직접적인 영향을 미치고 있습니다. 특히, 메모리 시장의 풍향계 역할을 하는 마이크론의 주가가 9.88% 폭락하며 321.80달러까지 추락한 것이 국내 증시에도 큰 파장을 일으켰습니다. 필라델피아 반도체지수 역시 4.23% 급락하며 구성 종목 모두 하락세를 보였습니다. 삼성전자, 14조 원대 자사주 소각으로 주가 방어 나서이러한 시장 상황 속에서 삼성전자는 14조 5806억 원 규모의 자사주 소각을 공시하며 주가 방어에 적..

AI 추론 메모리 병목 현상 해결, 터보퀀트(TurboQuant) 알고리즘 등장구글이 AI 추론에 필요한 메모리 용량을 획기적으로 줄이는 새로운 알고리즘, 터보퀀트(TurboQuant)를 공개했습니다. 이 기술은 대규모 언어 모델이 반복적인 연산 없이도 문맥을 유지할 수 있도록 하는 핵심 요소인 키-밸류 캐시를 압축하여 메모리 사용량을 최대 6배까지 줄이면서도 정확도를 유지합니다. 특정 조건에서는 엔비디아 H100 GPU보다 최대 8배 빠른 처리 속도를 제공한다고 알려져 있습니다. 이는 AI 모델 개발 및 운영 비용 절감에 크게 기여할 것으로 기대됩니다. 메모리 주가 급락, 수요 감소 우려와 전문가 분석터보퀀트 발표 이후 삼성전자와 SK하이닉스를 포함한 주요 메모리 반도체 기업들의 주가가 하락했습니..

AI 메모리 효율 극대화, '터보퀀트' 알고리즘 공개카이스트 전기및전자공학부의 한인수 교수가 참여한 국제 공동 연구팀이 인공지능(AI) 모델의 고질적인 메모리 과부하 문제를 해결할 차세대 양자화 알고리즘 '터보퀀트'를 공개했습니다. 이 기술은 메모리 수요를 최대 6배까지 절약하면서도 성능을 유지하여 AI 산업과 반도체 수요 구조에 큰 변화를 예고하고 있습니다. 카이스트는 이번 기술이 AI를 더 저렴하고 빠르게 확산시키는 동시에 반도체 수요의 질적 고도화를 이끌 것으로 전망했습니다. AI 성능 최적화의 새로운 지평을 열다클라우드플레어 CEO는 '터보퀀트'를 '구글의 딥시크'라 칭하며, 속도, 메모리 사용량, 전력 소비, 활용도 측면에서 AI 추론 성능을 최적화할 여지가 매우 크다고 극찬했습니다. 기존..

외국인·기관 매도세에 코스피 하락 출발26일 코스피가 외국인과 기관의 동반 매도세에 1% 하락 출발했습니다. 구글의 '터보퀀트' 발표로 메모리 수요 둔화 우려가 커지면서 반도체 대형주가 약세를 보인 것이 주요 원인으로 분석됩니다. 이날 오전 9시 12분 현재 코스피는 전장 대비 84.48포인트(1.50%) 내린 5557.73을 나타내고 있습니다. 지수는 전장 대비 48.15포인트(0.85%) 내린 5594.06으로 출발해 낙폭을 키우고 있습니다. 반도체 대형주 약세, 투자심리 위축구글이 인공지능(AI) 압축 알고리즘인 '터보퀀트'를 발표하면서 메모리 수요 둔화 우려가 국내 증시를 덮쳤습니다. 이는 국내 반도체 투자심리를 가늠하는 지표로 여겨지는 마이크론과 샌디스크 주가가 각각 3.40%, 3.50%..