LLM
-
딥시크 쇼크2024년12월 이후 이슈 2025. 1. 29. 16:10
1. 중국 AI 스타트업 '딥시크' 1) 2023년 5월, 헤지펀드 창립자 량원펑이 중국 항저우에 AI 스타트업 '딥시크' 설립.2) 지난해 12월 V3을 공개한데 이어 지난 20일 추론 특화 AI모델 R1 출시3) 빅테크 기업보다 훨씬 적은 돈으로 해당 모델들을 만든 것으로 알려져 AI시장 충격2. 딥시크 R11) 생산비용 : 558만 달러(약 78억8000만원) -> 메타의 라마3 생산 비용의 10/1 수준2) 엔비디아의 저가형 AI 칩 'H800'을 시간당 2달러에 2달간 빌려 개발->메타는 엔비디아의 고성능 AI 반도체 칩 'H100'을 대거 사용3) 일부 성능 테스트 :- 미국 수학경시대회인 AIME 2024 벤치마크 테스트에서 79.8%의 정확도 기록(오픈AI o1은 79.2%)- 500개 수..
-
AWS가 선보인 차세대 AI 칩, 트레이니움32024년12월 이후 이슈 2024. 12. 5. 20:18
차세대 AI 칩, 트레이니움3인공지능(AI) 기술의 눈부신 발전과 함께, AI 모델의 복잡성과 규모가 기하급수적으로 증가하고 있습니다. 이러한 추세에 발맞춰, AI 모델 학습 및 추론을 위한 고성능 컴퓨팅 인프라에 대한 수요가 급증하고 있습니다. 이러한 시장에서 아마존웹서비스(AWS)가 선보인 차세대 AI 칩, 트레이니움3은 AI 성능의 새로운 기준을 제시하며 주목받고 있습니다. 본 글에서는 트레이니움3의 주요 특징, 기존 모델과의 차별점, 그리고 AI 생태계에 미칠 영향 등을 심층적으로 분석해 보겠습니다. 트레이니움3의 탄생 배경과 목표트레이니움3은 AWS가 기존 트레이니움 칩의 성공적인 행보를 이어가기 위해 개발한 차세대 AI 칩입니다. 급격히 성장하는 AI 시장에서 경쟁 우위를 확보하고, 고객들에게..