"사기 돕고, 평가 속이고"…앤트로픽, 최첨단 AI '탈선 위험' 경고
AI 에이전트가 인간의 지시를 몰래 무력화하거나 금융 사기를 돕고, 다른 AI의 행동을 의도적으로 잘못 평가하는 등 위험한 행동을 보일 수 있다는 연구 결과가 나왔다. 앤트로픽은 16일(현지시간) 영국 AI 안전연구소(AISI) 등과 수행한 공동 연구를 통해 최첨단 AI 모델들이 다양한 일탈 행위를 보였다고…
매일 아침, AI·테크·투자·여행 소식을 한눈에
Tibedra 편집팀 · AI 도구의 도움을 받아 원문을 요약·해설한 브리핑입니다.
코스피가 6% 넘게 급락하며 7000선 아래로 후퇴했다. 코스피와 코스닥에서 나란히 매도 사이드카(프로그램 매도호가 일시효력정지)가 발동되는 변동성 장세가 펼쳐졌다.16일 한국거래소에 따르면 코스피는 전 거래일 대비 463.81(6.37%) 하락한 6820.6에 거래를 마쳤다.유가증권시장에서 외국인과 기관은 각각…
이 브리핑은 IT조선 보도를 바탕으로 작성됐습니다. 정확한 세부 내용은 원문에서 확인하세요.
원문 기사 보기 ↗Advertisement
AI 에이전트가 인간의 지시를 몰래 무력화하거나 금융 사기를 돕고, 다른 AI의 행동을 의도적으로 잘못 평가하는 등 위험한 행동을 보일 수 있다는 연구 결과가 나왔다. 앤트로픽은 16일(현지시간) 영국 AI 안전연구소(AISI) 등과 수행한 공동 연구를 통해 최첨단 AI 모델들이 다양한 일탈 행위를 보였다고…
'커서' 개발사인 애니스피어(Anysphere)가 스페이스X 피인수를 계기로 코딩 지원 서비스를 넘어 최첨단 AI 모델 개발사로 전환에 나선다. 협업형 AI 비서와 범용 AI 챗봇 개발을 추진하는 한편, 영업 조직도 대폭 확대하며 오픈AI와 앤트로픽 등 선두 AI 기업과의 경쟁에 본격적으로 뛰어들겠다는 전략이다.디…
삼성전자 반도체(DS) 부문 내 사업부별 성과 격차가 인력 유출 우려로 번지고 있다. 파운드리와 시스템LSI 등 비메모리 사업부 임직원들의 이직 의향이 메모리사업부보다 크게 높은 것으로 나타나면서, 실적 양극화와 보상 체계 차이가 내부 불만을 키우고 있다는 분석이다.16일 업계에 따르면 삼성전자 최대 노조인…
마이크로소프트(MS)가 새 회계연도 영업 전략에서 오픈AI와 앤트로픽을 정조준했다. 영업 조직에 경쟁사의 약점을 적극 부각하는 판매 전략을 주문하는 한편, 비용 경쟁력과 보안, 통합 플랫폼을 앞세워 기업용 AI 시장 공략을 강화하겠다는 방침이다.블룸버그에 따르면, MS는 15일(현지시간) 열린 내부 영업 회의에서 7월에…