AI 윤리는 원칙에서 실행으로
선언문에 머무는 AI 윤리로는 부족하다. 에이전틱 AI가 확산되는 상황에서 원칙이 기획·개발·출시·운영 전 과정의 기준과 절차로 바뀌어야 한다고 강조한 회의 발언 정리.
Topic
AI윤리
논평 10편, 단상 4편.
1 / 1 쪽 · 14편
질문은 AI를 막을 수 있느냐가 아니다
머스크는 5년 뒤 AI가 인류 전체 지능의 총합을 넘어서고 10년 뒤엔 인간이 통제하지 못할 것이라 말했다. 그런데도 멈추지 말자는 그의 결론에 붙인 반론.
AI 윤리도 예산에서 제자리를 얻어야 한다
《The ROI of AI Ethics》 보고서를 읽고, AI 윤리·안전·보안 예산을 규제 비용이 아니라 수익을 지키는 투자로 다뤄야 한다는 논지와 국가 AI 전략을 위한 네 가지 제안을 정리했다.
AI 시대의 마지막 안전장치는 인간이다
조 켄트의 선택을 두고 남긴 짧은 단상. AI가 전장을 계산하고 최적화하는 시대일수록 ‘정확성’이 아니라 ‘정당성’을 묻는 인간 고유의 기준이 남는다고 적었다.
AI가 과학을 오염시키는가
13개 대형언어모델을 대상으로 한 Nature 연구는 거의 모든 모델이 학술 부정행위에 이용될 수 있음을 확인했다. 문제는 AI가 과학을 오염시키느냐가 아니라 신뢰를 어떻게 다시 설계하느냐다.
누가 AI의 사용 범위를 결정할 것인가
오픈AI 로보틱스 팀장이 국방부 계약에 반발해 사임했다. AI 지정학의 축이 국가 대 국가를 넘어 국가 권력과 AI 기업 사이의 권력 경쟁으로 옮겨간다고 봤다.
AI, 전장의 인프라가 되다
김어준의 뉴스공장에 출연해 트럼프 정부와 앤트로픽의 충돌을 짚었다. 특정 CEO의 용기를 영웅화할 일이 아니라, AI 통제의 기준이 제도로 고정되어 있는가가 문제라고 봤다.
인류의 지적 공유지를 누가 사유화하는가
앤트로픽의 이른바 ‘파나마 프로젝트’를 다룬 워싱턴포스트 보도에 대한 짧은 반응. 저작권 침해 여부를 넘어, AI 기업이 어떤 절차와 권한으로 지적 공유지를 흡수하는가라는 민주적 통제의 문제로 읽는다.
윤리를 말하는 국가가 아니라 시험하는 국가
조세핀 테오 싱가포르 통신정보부 장관 인터뷰에서 읽은 싱가포르 AI 전략. 모델 규모나 연산 자원이 아니라 정부가 먼저 쓰고, 윤리를 시험하고, 신뢰를 성과 지표로 삼는 설계가 핵심이다.
AI 안전은 선언이 아니라 책임이다
앤트로픽이 공개한 프런티어 컴플라이언스 프레임워크(FCF)는 자발적 윤리와 법적 책임을 처음으로 갈라놓았다. AI 안전의 시대가 끝나고 AI 책임의 시대가 시작됐다는 논평.
기술은 보았지만 인간은 보지 못했다
현실에서 가장 흔한 AI 피해는 편향이나 환각이 아니라 사기와 조작이다. 46만 개 모델 카드를 분석한 연구를 소개하며, 개발자와 연구자가 함께 놓친 맹점과 AI를 보안 객체로 다뤄야 하는 이유를 짚었다.
AI가 만든 가짜 논문, 학술지에서 인용 확산
AI가 만들어 낸 존재하지 않는 논문과 저널이 실제 학술지에 인용되며 퍼지고 있다. 피어리뷰가 걸러내지 못하는 구조적 문제와 흔들리는 연구 신뢰 기반을 짚었다.
결국 결정하는 자가 바뀌고 있다
지금까지 다룬 여섯 개의 AI 정책난제가 모두 ‘현재형’이라면, 미래형 난제는 무엇인가. 자문회의에서 AI로의 권한 이양을 제시하며 의도·책임·처벌이라는 제도의 전제가 흔들릴 때 무엇을 지킬지 물었다.
AI 쓰레기의 시대, 진정성이 새로운 전복
AI사상가 무라트 두르무스의 'AI Slop' 글을 옮긴 기록. 알고리듬 쓰레기를 헤치고 나아가는 시대에 서투르게라도 진짜 생각을 나누는 인간다움이 저항이 된다는 내용이다.