日 오사카 들썩…트레저, 팬콘 전석 매진 속 뜨거운 반응

프리즘ML, 270억 매개변수 모델 아이폰 구동 성공…성능 저하 없는 온디바이스 AI 구현

미국 스타트업 프리즘ML(PrismML)이 270억 매개변수 규모의 대형언어모델(LLM)을 아이폰에서 구동하는 데 성공했다. 이는 지금까지 스마트폰에서 실행된 AI 모델 가운데 가장 큰 규모로, 클라우드 의존도를 줄이고 기기 자체에서 AI를 처리하려는 애플의 온디바이스 AI 전략에도 새로운 전환점이 될 수 있다는 평가가…

AI타임스· 방금 전

주가 80% 폭락 미니맥스 CEO "AGI 달성 때까지 무급 근무"

미니맥스가 주가 급락과 치열한 경쟁 속에서도 AGI 개발 의지를 재확인했다. 사우스차이나모닝포스트에 따르면, 옌쥔제 미니맥스 창립자 겸 CEO는 AGI를 달성할 때까지 급여를 받지 않겠다고 10일 선언했다. 또, 개인 보유 지분 일부를 직원과 오픈소스 생태계에 환원하겠다고 밝혔다.미니맥스는 차세대 AI 모델 개발을 위해…

AI타임스· 방금 전

AI 에이전트 스타트업, AI 에이전트로 1500억 투자 유치…"130여 투자자 응대"

기업용 AI 에이전트 플랫폼 스타트업 라이저(Lyzr)가 자체 AI 에이전트를 활용해 1억달러(약 1500억원) 규모의 투자 유치를 진행하며 제품의 실효성을 직접 입증했다. AI가 투자자 응대부터 투자 설명 자료 작성, 투자자 행동 분석까지 수행하면서 자금 조달 과정의 효율성을 크게 높였다는 점에서 AI가 기업 경영…

AI타임스· 방금 전

엔비디아, '반복 퍼즐' 프레임워크로 추론 효율 극대화…"거대 모델 운영 비용 절반으로"

엔비디아가 대형언어모델(LLM) 배포와 추론 과정에서 발생하는 막대한 인프라 비용 문제를 해결할 최적화 모델을 선보였다. 하이브리드 맘바-트랜스포머 아키텍처 기반의 기존 모델을 성능 저하 없이 최적화해 서버 처리량을 최대 4.6배까지 끌어올렸으며, 고성능 GPU 한 장으로도 초장문맥 요청을 동시 처리할 수 있는 길을…

관련 브리핑

프리즘ML, 270억 매개변수 모델 아이폰 구동 성공…성능 저하 없는 온디바이스 AI 구현

주가 80% 폭락 미니맥스 CEO "AGI 달성 때까지 무급 근무"

AI 에이전트 스타트업, AI 에이전트로 1500억 투자 유치…"130여 투자자 응대"

엔비디아, '반복 퍼즐' 프레임워크로 추론 효율 극대화…"거대 모델 운영 비용 절반으로"