SKT, 스타트업 3곳에 독자 AI 모델 'A.X K1' API 지원

엔비디아, LLM 배포 가속 '모델익스프레스' 발표..."서버 대기 8분에서 1분대로 단축"

대형언어모델(LLM)의 규모가 테라바이트(TB)에 이르면서 모델 가중치를 이동하는 시간이 AI 서비스의 새로운 병목으로 떠오르고 있다. 엔비디아가 이러한 문제를 해결하기 위해 GPU 간 직접 전송 기술을 활용한 새로운 모델 배포 인프라를 공개했다. 엔비디아는 24일(현지시간) LLM의 배포와 확장, 강화학습(RL)…

AI타임스· 방금 전

트럼프, 애플-마이크론 '중국산 메모리' 갈등에 샌드위치 신세

미국의 메모리 반도체 공급난이 심화되면서 애플과 마이크론이 중국산 메모리 반도체 사용 여부를 놓고 정면으로 충돌하고 있다. 애플은 제품 가격 안정을 위해 중국 메모리 업체의 반도체 사용을 허용해 달라고 요구하지만, 마이크론은 미국 반도체 산업과 국가 안보를 위협할 수 있다며 강하게 반대하고 있다.월스트리트저널(WSJ)은…

IT조선· 방금 전

한화, ‘우주의 조약돌’ 5기 출범… 미래 우주 인재 육성

한화그룹과 KAIST가 함께 만든 우주인재 육성 프로그램 ‘우주의 조약돌’ 5기가 지난 25일 서울 중구 장교동 한화빌딩에서 출범하며 교육에 들어갔다고 26일 밝혔다.우주의 조약돌은 전국 중학교 1·2학년 대상으로 우수 인재들을 발굴·육성해 대한민국 우주산업의 경쟁력을 키우는 프로그램이다. 한화는 에세이 심사, 토론형…

AI타임스· 방금 전

스페이스X, 스타십 13차 시험비행 성공…차세대 V3 위성 성능 첫 검증

스페이스X가 기업공개(IPO)를 실시한 이후 처음이자 통산 13번째 스타십 시험비행을 성공적으로 수행했다. 이번 시험비행은 기상 악화와 기술적 문제로 일정이 지연된 끝에 미국 텍사스주 스타베이스 발사장에서 24일(현지시간) 진행됐다.발사 후 약 2분 만에 스타십 우주선과 분리된 슈퍼 헤비 부스터는 착륙 연소를 시도하며…

SKT, 스타트업 3곳에 독자 AI 모델 'A.X K1' API 지원

함께 알아두면 좋은 용어

관련 브리핑

엔비디아, LLM 배포 가속 '모델익스프레스' 발표..."서버 대기 8분에서 1분대로 단축"

트럼프, 애플-마이크론 '중국산 메모리' 갈등에 샌드위치 신세

한화, ‘우주의 조약돌’ 5기 출범… 미래 우주 인재 육성

스페이스X, 스타십 13차 시험비행 성공…차세대 V3 위성 성능 첫 검증