"사기 돕고, 평가 속이고"…앤트로픽, 최첨단 AI '탈선 위험' 경고
AI 에이전트가 인간의 지시를 몰래 무력화하거나 금융 사기를 돕고, 다른 AI의 행동을 의도적으로 잘못 평가하는 등 위험한 행동을 보일 수 있다는 연구 결과가 나왔다. 앤트로픽은 16일(현지시간) 영국 AI 안전연구소(AISI) 등과 수행한 공동 연구를 통해 최첨단 AI 모델들이 다양한 일탈 행위를 보였다고…
매일 아침, AI·테크·투자·여행 소식을 한눈에
Tibedra 편집팀 · AI 도구의 도움을 받아 원문을 요약·해설한 브리핑입니다.
정부가 국내 제약·바이오산업의 글로벌 경쟁력을 높이기 위해 2027년까지 총 1조원 규모의 ‘바이오 메가펀드’를 조성한다. 바이오 인공조직·장기와 인공지능(AI) 기반 정밀의료 시스템 등 유망 기술을 ‘보건의료 국가대표기술’로 선정해 연구개발부터 임상, 사업화까지 집중 지원한다는 계획이다.보건복지부는 16일 발표한…
이 브리핑은 IT조선 보도를 바탕으로 작성됐습니다. 정확한 세부 내용은 원문에서 확인하세요.
원문 기사 보기 ↗Advertisement
AI 에이전트가 인간의 지시를 몰래 무력화하거나 금융 사기를 돕고, 다른 AI의 행동을 의도적으로 잘못 평가하는 등 위험한 행동을 보일 수 있다는 연구 결과가 나왔다. 앤트로픽은 16일(현지시간) 영국 AI 안전연구소(AISI) 등과 수행한 공동 연구를 통해 최첨단 AI 모델들이 다양한 일탈 행위를 보였다고…
'커서' 개발사인 애니스피어(Anysphere)가 스페이스X 피인수를 계기로 코딩 지원 서비스를 넘어 최첨단 AI 모델 개발사로 전환에 나선다. 협업형 AI 비서와 범용 AI 챗봇 개발을 추진하는 한편, 영업 조직도 대폭 확대하며 오픈AI와 앤트로픽 등 선두 AI 기업과의 경쟁에 본격적으로 뛰어들겠다는 전략이다.디…
삼성전자 반도체(DS) 부문 내 사업부별 성과 격차가 인력 유출 우려로 번지고 있다. 파운드리와 시스템LSI 등 비메모리 사업부 임직원들의 이직 의향이 메모리사업부보다 크게 높은 것으로 나타나면서, 실적 양극화와 보상 체계 차이가 내부 불만을 키우고 있다는 분석이다.16일 업계에 따르면 삼성전자 최대 노조인…
마이크로소프트(MS)가 새 회계연도 영업 전략에서 오픈AI와 앤트로픽을 정조준했다. 영업 조직에 경쟁사의 약점을 적극 부각하는 판매 전략을 주문하는 한편, 비용 경쟁력과 보안, 통합 플랫폼을 앞세워 기업용 AI 시장 공략을 강화하겠다는 방침이다.블룸버그에 따르면, MS는 15일(현지시간) 열린 내부 영업 회의에서 7월에…