오픈AI·앤트로픽 암호화 '사고 과정' 통째 유출...API 설계 허점 파문
오픈AI와 앤트로픽, 구글 등 주요 AI 기업이 경쟁력 보호와 정보 유출 방지를 위해 암호화해 숨겨둔 대형언어모델(LLM)의 내부 사고 과정(CoT)이 API 설계상의 허점을 통해 복원될 수 있다는 연구 결과가 나왔다. 특히 공격자가 고성능 모델 자체를 직접 탈옥하지 않고도 같은 생태계의 상대적으로 저렴하고 안전장치가…
매일 아침, AI·테크·투자·여행 소식을 한눈에
Tibedra 편집팀 · AI 도구의 도움을 받아 원문을 요약·해설한 브리핑입니다.
정기선 HD현대 회장이 13일 ”단기 성과에 매몰되지 않고 10년·20년 장기적인 안목으로 지속가능한 성장을 이끌 수 있는 경영환경을 만드는데 앞장 서겠다”고 말했다.정 회장은 이날 경기 성남시 판교 글로벌R&D센터에서 열린 ‘그룹 사장단 회의’에 참석해 이같이 밝혔다. 이날 회의에는 정 회장을 비롯해 조영철 부회장,…
이 브리핑은 IT조선 보도를 바탕으로 작성됐습니다. 정확한 세부 내용은 원문에서 확인하세요.
원문 기사 보기 ↗Advertisement
오픈AI와 앤트로픽, 구글 등 주요 AI 기업이 경쟁력 보호와 정보 유출 방지를 위해 암호화해 숨겨둔 대형언어모델(LLM)의 내부 사고 과정(CoT)이 API 설계상의 허점을 통해 복원될 수 있다는 연구 결과가 나왔다. 특히 공격자가 고성능 모델 자체를 직접 탈옥하지 않고도 같은 생태계의 상대적으로 저렴하고 안전장치가…
오픈AI가 월 20달러짜리 '챗GPT 플러스' 사용자를 대상으로 주간 사용량 한도를 고액을 지불하고 즉시 초기화할 수 있는 새로운 기능을 시험하고 있는 것으로 나타났다. 12일(현지시간) 비즈니스인사이더에 따르면, 주간 사용 한도를 모두 소진한 일부 사용자에게 “8달러를 지불하고 재설정하라(Pay $8 to…
딥시크가 AI 모델을 자율적으로 업무를 수행하는 에이전트로 전환하기 위한 ‘하네스(Harness)’ 전담 조직을 공식화하고 대규모 인재 채용에 나섰다. 특히 앤트로픽의 AI 코딩 에이전트 ‘클로드 코드’와 같은 제품을 겨냥해 모델 자체의 성능 경쟁을 넘어 실제 업무를 수행하는 에이전트 생태계 구축에 본격적으로 뛰어드는…
그동안 기업용 AI 시장에서 앤트로픽에 밀리던 오픈AI가 'GPT-5.6 솔' 출시를 계기로 반격에 성공했다. 기업들의 실제 지출 규모에서 앤트로픽의 '페이블 5'를 앞지르며 시장 판도를 뒤집는 양상이다.미국 핀테크 기업 램프(Ramp)가 7만개 이상의 미국 기업 고객의 청구서와 비용 지출 데이터를 분석해 발표한 AI…