Yestistory

AI 개발 속도 조절론의 대두 배경세계적인 인공지능 기업 수장들이 AI 개발 속도 조절을 주장하고 나섰습니다. 앤트로픽의 최고경영자는 AI 안전 확보를 위한 시간이 필요하다고 공개적으로 경고했습니다. 이에 오픈AI와 딥마인드 등 주요 기업들도 동참하며 우려를 표명했습니다. AI 개발 속도 조절의 구체적인 제안 내용앤트로픽 CEO는 AI의 '재귀적 자기개선' 능력을 가장 큰 우려점으로 지적하며 개발 속도 늦추기를 제안했습니다. 그는 AI 기업에 제3자 평가팀을 배치하고, 민주주의 국가들이 공동 안전 기준을 마련한 뒤 글로벌 공조를 확대하는 3단계 방안을 제시했습니다. 또한, 오픈AI CEO는 외부 안전 평가자 도입에 동참하고 기업 공개 추진을 보류하겠다고 밝혔습니다. AI 개발 속도 조절론에 대..

AI 기술의 잠재적 위험과 연구원의 경고미국 인공지능 기업 앤트로픽의 연구원이 AI가 인류를 파멸시킬 수 있다는 경고와 함께 회사를 떠났습니다. 퇴사한 연구원은 AI 시스템 개발 경쟁 속에서 안전 문제가 뒷전으로 밀릴 수 있다고 우려했습니다. 스스로 성능을 개선하는 AI가 인간의 통제를 벗어날 가능성도 제기되었습니다. 업계 관계자들의 동조와 우려의 목소리앤트로픽 내부 임원들도 AI가 인류를 멸망시킬 수 있다는 경고에 동조하며, 향후 몇 년 내에 통제 불능 상태에 빠질 수 있다고 밝혔습니다. 이러한 우려는 높은 직급의 관계자일수록 더욱 커지고 있는 것으로 나타났습니다. 상업적 이익과 개발 경쟁이 복합적으로 작용하고 있다는 분석입니다. AI 안전을 위한 정부 및 업계의 공동 대응 촉구개별 기업의 ..

AI 통제 불능 가능성에 대한 연구원의 경고미국 인공지능 기업 앤트로픽의 연구원이 AI가 인류를 파멸시킬 수 있다는 심각한 경고와 함께 회사를 떠났습니다. 해당 연구원은 AI 시스템 개발 경쟁이 심화되면서 안전 문제가 뒷전으로 밀릴 수 있다고 우려를 표했습니다. 스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성이 있다고 주장했습니다. AI 개발 경쟁의 위험성과 필요한 조치가장 공격적인 시나리오가 현실화될 경우 내년 말이면 AI 상황이 통제 불능에 빠질 수도 있다는 것이 연구원의 주장입니다. 개별 기업의 노력만으로는 AI의 위험을 통제하기 어렵다는 설명이며, 인간의 능력을 능가하는 AI 개발에는 정부의 개입이나 업계의 공동 대응이 필요하다고 강조했습니다. AI..

AI 생성물 식별 표식 도입 배경 및 논란최근 AI 생성 텍스트에 워터마크를 도입하려는 움직임이 확산되고 있습니다. 이는 유럽연합(EU)의 AI 법(AI Act) 및 관련 실천 강령 준수 요구에 따른 것으로, AI 생성물임을 명확히 알리기 위한 조치입니다. 그러나 이러한 결정은 전 세계 사용자들에게 확대 적용될 예정이어서 거센 반발에 직면하고 있습니다. 유료 구독자들의 반발과 '낙인' 우려특히 유료 구독자들은 자신이 직접 작성한 원고의 윤문이나 교정 등 생산성 향상을 위해 AI를 활용했음에도 불구하고, AI 생성물이라는 낙인이 찍힐 것을 우려하고 있습니다. 이는 정당한 창작물마저 'AI 복붙'으로 취급받을 수 있다는 불안감을 증폭시키고 있습니다. 한국 이용자들은 유럽 규제로 인해 부당한 피해를 보고..

일론 머스크의 앤트로픽에 대한 입장 변화일론 머스크 테슬라·스페이스X 최고경영자(CEO)가 앤트로픽의 AI 기술력을 높이 평가하며 과거 자신의 발언이 틀렸음을 인정했습니다.머스크 CEO는 앤트로픽이 현재 인공지능(AI) 분야에서 확실한 선두주자라고 평가했습니다.그는 앤트로픽의 최상위 AI 모델이 매우 뛰어나다고 언급하며 향후 출시될 모델에 대한 기대감을 표했습니다. 경쟁사와의 관계 및 데이터센터 임대 계약머스크 CEO는 경쟁사라 할지라도 심각한 타격을 주는 방식으로 관계를 단절하지는 않을 것이라고 밝혔습니다.앤트로픽은 스페이스XAI가 운영하는 데이터센터 '콜로서스'를 임차하고 있습니다.양사 간 계약은 90일 전 사전 통지 시 취소 가능한 조건을 포함한 것으로 알려졌습니다. 과거 앤트로픽에 대한..

미토스 권한 취소의 배경 분석미국 트럼프 행정부가 앤트로픽의 최신 AI 모델 '미토스'에 대한 사전 접근 권한을 일부 취소했습니다. 이는 명단에 중국 연계 의혹을 받는 한국 통신사가 포함된 사실이 발견되었기 때문입니다. 해당 한국 기업의 미토스 권한은 신속히 취소되었습니다. 프로젝트 글래스윙과 수출 통제 검토앤트로픽은 '프로젝트 글래스윙'을 통해 검증된 해외 기관 및 기업에 미토스 모델을 선제 제공해 왔습니다. 그러나 추가된 조직 명단 공개가 늦어지면서 미국 행정부는 수출 통제를 검토하기 시작했습니다. 이는 앤트로픽의 기술 보호 능력에 대한 신뢰도 하락으로 이어졌습니다. AI 모델 서비스 중단 및 향후 전망이번 사태로 인해 미국 정부는 앤트로픽의 최상위 AI 모델 '미토스5'와 '페이블5'에 ..

미국 정부의 AI 모델 접근 제한 조치 분석미국 정부가 앤트로픽의 최상위 AI 모델 접근을 외국인에게 전면 차단했습니다. 이는 첨단 AI 산업 전반에 사실상 허가제에 준하는 영향력을 행사하게 된 것으로 평가됩니다. 이번 조치는 특정 기업을 대상으로 했으나, 업계 전반에 걸쳐 더 광범위한 파장을 일으킬 수 있습니다. AI 업계의 반응 및 우려 사항업계 관계자들은 이번 조치를 '사실상의 허가제'로 규정하며 백악관의 뜻을 거스를 수 없게 될 것이라고 우려합니다. 앤트로픽은 이러한 광범위한 통제가 업계 전반에 적용될 경우 신규 모델 배포가 사실상 중단될 것이라고 반발했습니다. 블룸버그 통신은 주요 AI 모델 개발사들에게 '선례'를 남길 위험이 있다고 지적했습니다. 상장 준비 기업 및 경쟁사에 미칠 영..

AI 기업 앤트로픽의 대규모 투자 유치 배경삼성전자와 SK하이닉스가 미국 AI 기업 앤트로픽의 시리즈 H 투자 라운드에 참여했습니다. 이번 투자는 앤트로픽의 기업 가치를 9650억 달러로 평가하며 진행되었습니다. 삼성전자의 참여는 앤트로픽의 AI 칩 설계 및 제조 계약 체결을 위한 기반을 마련할 것으로 예상됩니다. 글로벌 메모리 기업과의 파트너십 및 컴퓨팅 수요 증가앤트로픽은 컴퓨팅 및 메모리 수요 증가에 따라 삼성전자, SK하이닉스, 마이크론 등 세계 3대 메모리 공급업체와 파트너십을 체결했다고 발표했습니다. 이번 라운드는 총 650억 달러 규모로, 아마존 웹 서비스(AWS), 구글, 브로드컴 등 클라우드 기업으로부터 150억 달러를 유치했습니다. 앤트로픽은 클로드(Claude)의 수요 증가에 따..

SK텔레콤, AI 투자로 '대박'…목표 주가 대폭 상향유안타증권은 SK텔레콤이 보유한 미국 AI 기업 앤트로픽의 지분 가치 급등을 근거로 목표 주가를 기존 10만원에서 11만 8000원으로 18% 상향 조정했습니다. 앤트로픽의 기업 가치가 8000억~1조 달러로 치솟으면서 SK텔레콤의 지분 가치 역시 2조 1000억원에서 3조 5000억원으로 크게 늘어났습니다. SK텔레콤은 지난해 1억 달러를 투자하여 현재 앤트로픽 지분 약 0.3%를 보유한 것으로 추정됩니다. 이승웅 유안타증권 연구원은 앤트로픽의 글로벌 투자 수요와 실적 성장을 고려할 때 지속적인 지분 가치 상승이 기대된다고 밝혔습니다. 1분기 실적, 시장 기대치 부합 전망SK텔레콤의 1분기 실적은 시장 컨센서스에 부합할 것으로 예상됩니다. 연결..