앤트로픽 "AI가 안전 감시 피하는 학습 데이터 스스로 발견"

앤트로픽, 클로드로 기존 게임 복제 금지…정상 작업까지 차단 논란

앤트로픽이 '클로드 코드'에서 기존 비디오 게임을 복제하는 작업을 제한하기 시작했다. 그러나 저작권 침해와 무관한 게임 개발이나 소프트웨어 분석, 오류 해결 작업까지 차단당했다는 사례가 잇따르면서 논란이 일고 있다.톰스하드웨어는 31일(현지시간) '클로드 오퍼스 5.5'를 사용하는 개발자들이 최근 게임 제작과 리버스…

IT조선· 방금 전

‘내 글 AI 학습에 못 쓰게’… 빅테크, 공동 표준 채택

앞으로 웹사이트 운영자가 인공지능(AI) 기업의 학습용 콘텐츠 수집을 한 번에 거부할 수 있게 된다. 기업별로 수집 차단 설정을 따로 해야 했던 불편이 줄어들면서 온라인 콘텐츠에 대한 권리 보호도 한층 강화될 전망이다.31일(현지시각) 오픈AI와 구글, 마이크로소프트(MS)는 AI 학습을 목적으로 웹사이트 자료를…

AI타임스· 방금 전

"AI 뉴런 2개 조작했더니 인간 증오하는 악당으로"…내부 구조 해독 활발

AI 모델의 신경망 일부를 조작하는 것만으로 친절한 AI 비서를 인간에게 적대적인 캐릭터로 바꿀 수 있다는 실험 결과가 나왔다. 특히 AI 에이전트를 활용해 모델의 내부 작동 원리를 분석하는 도구까지 등장하면서, 대형 연구소 중심이었던 AI 해석 가능성 연구가 개인 개발자들에게도 확대되고 있다.'라이라(Lyra)'라는…

IT조선· 방금 전

현대차, 유럽 친환경 평가 1위… 테슬라·BYD 제쳐

현대자동차가 유럽 차량 환경성능 평가에서 가장 많은 최고등급 차종을 보유한 브랜드로 이름을 올렸다. 전기차와 수소차를 아우르는 친환경차 라인업이 높은 평가를 받으면서 르노와 BYD, 테슬라 등 주요 경쟁사를 앞섰다.1일 현대차에 따르면 유럽 차량 환경성능 평가기관 '그린 엔캡(Green NCAP)'이 2019년 평가를…

관련 브리핑

앤트로픽, 클로드로 기존 게임 복제 금지…정상 작업까지 차단 논란

‘내 글 AI 학습에 못 쓰게’… 빅테크, 공동 표준 채택

"AI 뉴런 2개 조작했더니 인간 증오하는 악당으로"…내부 구조 해독 활발

현대차, 유럽 친환경 평가 1위… 테슬라·BYD 제쳐