배경훈 장관 “독파모 계속된다…SPC 프론티어 AI 도전과 병행”
‘독자 AI 파운데이션 모델 개발 프로젝트(독파모)’ 중단 여부에 대해 업계 추측이 오고 간 가운데, 배경훈 부총리 겸 과학기술정보통신부 장관이 공식 입장을 밝혔다. 최근 정부가 5조원 규모의 민관 합작 특수목적법인(SPC)을 설립해 프론티어 AI 개발로 방향을 선회한다는 보도가 나오며 독파모 중단설이 확산하자 직접…
매일 아침, AI·테크·투자·여행 소식을 한눈에
Tibedra 편집팀 · AI 도구의 도움을 받아 원문을 요약·해설한 브리핑입니다.

오픈AI, 구글 딥마인드, 앤트로픽 등 주요 인공지능(AI) 개발사의 전·현직 연구원 22명이 AI의 위험성에 대한 경고 인터뷰를 공개했습니다. 이들은 AI가 인간의 통제 능력을 넘어설 정도로 자율적으로 개선될 경우 인류에게 심각한 위협이 될 수 있다고 우려를 표명했습니다.
최근 인공지능 기술은 빠르게 발전하며 다양한 분야에서 혁신을 이끌고 있습니다. 특히 오픈AI, 구글 딥마인드, 앤트로픽과 같은 선두 기업들은 범용 인공지능(AGI) 개발 경쟁을 벌이고 있습니다. 이러한 경쟁 속에서 AI가 스스로 학습하고 능력을 확장하는 '자율 개선' 단계에 도달할 경우, 인간이 그 발전 속도와 방향을 통제하기 어려워질 수 있다는 우려가 제기되어 왔습니다. 이번 인터뷰는 이러한 잠재적 위험에 대한 경각심을 높이고 AI 안전 논의를 촉구하기 위한 움직임으로 해석됩니다.
이번 연구원들의 경고는 인공지능 기술 발전의 이면에 존재하는 잠재적 위험에 대한 논의를 심화시킬 것으로 보입니다. AI 개발 속도가 가속화되는 가운데, 기술 혁신과 안전성 확보 사이의 균형을 어떻게 찾아갈지가 중요한 과제로 떠오르고 있습니다. 앞으로 AI 개발 기업들이 안전성 확보를 위한 어떤 노력을 기울일지, 그리고 각국 정부와 국제사회가 AI 규제 및 안전 기준 마련에 어떻게 협력할지 주목해야 할 것입니다.
이 브리핑은 AI타임스 보도를 바탕으로 작성됐습니다. 정확한 세부 내용은 원문에서 확인하세요.
원문 기사 보기 ↗Advertisement
‘독자 AI 파운데이션 모델 개발 프로젝트(독파모)’ 중단 여부에 대해 업계 추측이 오고 간 가운데, 배경훈 부총리 겸 과학기술정보통신부 장관이 공식 입장을 밝혔다. 최근 정부가 5조원 규모의 민관 합작 특수목적법인(SPC)을 설립해 프론티어 AI 개발로 방향을 선회한다는 보도가 나오며 독파모 중단설이 확산하자 직접…
구글이 AI 모델을 재학습하지 않고도 에이전트 성능을 스스로 개선할 수 있는 연구 프레임워크를 공개했다. 핵심은 모델의 가중치를 바꾸는 대신, 프롬프트와 도구 사용 방식, 제어 흐름, 메모리와 컨텍스트 관리, 기술 모듈, 하위 에이전트 등 모델을 둘러싼 ‘하네스(harness)’를 반복적으로 수정하는 것이다.구글…
리퀴드 AI가 최근 ‘제브(jev)’를 중심으로 폭발적인 관심을 모으는 '의사결정' 모델을 내놓았다. 정해진 선택지 가운데 어떤 결과가 나올 가능성이 높은지를 빠르게 계산해 기업의 반복적인 판단 업무를 자동화하는 데 초점을 맞췄다.리퀴드 AI는 29일(현지시간) 텍스트를 생성하는 대신 미리 정해진 선택지에 대한 확률을…
리사 수 AMD CEO가 지난 3월에 이어 10월에 다시 한국을 찾는다. AI 인프라의 중요성이 확대되는 가운데, 국내 대표 반도체 기업들과 협력을 모색할 전망이다.30일 업계에 따르면, 리사 수 CEO는 오는 10월8일 방한해 국내 NPU 기업들과 간담회를 진행할 예정이다.AMD는 최근 국내 기업과의 협력을 적극…