AI 독자성 논쟁, 누가 옳았는가의 문제가 아니다
소버린 AI의 기준이 모호하다는 점은 드러났지만, 그것이 독자 파운데이션 모델 정책을 부정할 근거는 아니다. 업스테이지 사례의 투명한 검증 경험을 자산으로 삼자는 제언.
Topic
AI
논평 154편, 단상 126편.
9 / 12 쪽 · 280편
AI 안전은 선언이 아니라 책임이다
앤트로픽이 공개한 프런티어 컴플라이언스 프레임워크(FCF)는 자발적 윤리와 법적 책임을 처음으로 갈라놓았다. AI 안전의 시대가 끝나고 AI 책임의 시대가 시작됐다는 논평.
AI 기반 보안에만 머무르지 않는다
새해 첫 보안 TF 회의 기록. 사고를 사후에 수습하는 대신 취약점을 먼저 걷어내고, AI로 보안을 강화하는 축과 AI 자체의 위험을 통제하는 축을 함께 본다.
AI 거버넌스는 만나는 과정에서 출발한다
빠띠·디지털정의네트워크·민변 등 시민사회 단체와 AI 행동계획 간담회를 가졌다. AI전략위원회와 시민사회 사이에 상시 소통 채널을 만들자는 공감대가 가장 큰 성과였다.
무너지는 경력 사다리: AI 시대의 청년 고용
2025년 통계 가운데 가장 충격적이었던 것은 청년 고용지수의 구조적 하락 그래프였다. 문제는 해고가 아니라 애초에 채용되지 않음이며, 해법은 교육이 아니라 고용 구조에 있다는 주장.
AI가 없었다면 발견되지 않았을 암
중국 일부 병원에서 당뇨 검진용 비조영 CT를 AI가 분석해 증상 없는 초기 췌장암을 찾아내고 있다. 대규모 선별검사의 가능성과 오탐이라는 과제를 함께 짚은 기록.
AI-화이트해커가 바꾸는 보안 거버넌스
AI-화이트해커를 자동화 도구가 아니라 사이버 방어의 운영 주체로 재정의한 논문을 읽고. CVD·DVP·버그바운티 제도 역시 AI 환경에 맞게 근본적으로 다시 설계해야 한다는 메모.
Solar를 GLM 파생으로 단정할 근거는 없다
Solar 모델이 GLM 파생이라는 의혹은 코사인 유사도처럼 식별력이 거의 없는 지표에 기대고 있다. 다만 대규모 모델의 계보를 무엇으로 검증할지 되묻게 하는 건강한 논쟁의 출발점이라는 평가.
출범 100일, 이제야 출발선에 섰다
국가AI전략위원회 자문단 네트워킹데이. 출범 100일 만에 AI 행동계획이 마무리 단계에 접어들고 AI기본법 개정안도 통과됐지만, 이제야 본격적인 출발선에 섰다는 부담도 함께 느낀 자리.
저품질 AI 콘텐츠가 점령한 유튜브 추천 알고리듬
신규 유튜브 이용자에게 추천되는 영상의 20% 이상이 조회 수만 노린 저품질 AI 콘텐츠다. 문제는 누가 만들었는가가 아니라 무엇이 확산되도록 설계돼 있는가라는 진단.
기술은 보았지만 인간은 보지 못했다
현실에서 가장 흔한 AI 피해는 편향이나 환각이 아니라 사기와 조작이다. 46만 개 모델 카드를 분석한 연구를 소개하며, 개발자와 연구자가 함께 놓친 맹점과 AI를 보안 객체로 다뤄야 하는 이유를 짚었다.
크리스마스 이브에도 보안TF 회의
크리스마스 이브 오후에도 열린 국가AI전략위 보안TF 회의 기록. 부위원장이 직접 참석해 격려했고, 자문위원과 지원단이 액션플랜 의견수렴에 진심으로 매달리고 있다고 적었다.
또 중국의 초강력 AI가 등장했나 보다
Zhipu AI가 코딩·추론·에이전트 작업용 오픈소스 모델 GLM-4.7을 출시했다는 소식에 놀라며 남긴 한 줄짜리 기록.
AI 안전의 상호운용성은 누구의 질서를 전제하는가
UNU Macau 보고서가 내세운 상호운용성 개념을 네 갈래로 정리하고, 미국이 빠진 사례 구성의 정치성을 지적했다. 한국에는 중립이 아니라 조건부 상호운용성이 필요하다는 결론.
AI가 만든 가짜 논문, 학술지에서 인용 확산
AI가 만들어 낸 존재하지 않는 논문과 저널이 실제 학술지에 인용되며 퍼지고 있다. 피어리뷰가 걸러내지 못하는 구조적 문제와 흔들리는 연구 신뢰 기반을 짚었다.
AGI는 미래의 이야기가 아니다
RAND Europe 보고서를 정리했다. AGI를 국제질서를 재편할 지정학 변수로 보고, 유럽의 구조적 열세와 AGI 대비 계획의 필요성, 그리고 선언이 아니라 역량으로 갈리는 주권을 짚었다.
이분들 때문에 AI기본사회는 성공한다
사회분과 송년회 기록. 최고참인 자신을 편하게 대해 주고 존중해 준 이들 덕분에 ‘AI기본사회’는 꼭 성공할 것이라 믿는다고 적었다. 지난 몇 달의 고마움과 2차 LP바에 대한 만족까지 담은 짧은 메모.
AI 시대의 안전은 어느 하나로 해결되지 않는다
2025 한국데이터법정책학회 동계학술대회 총괄 좌장을 맡은 소회. 데이터센터 화재, AI 기본법, AI와 사이버 범죄 세 세션이 하나의 질문으로 모였다고 정리한다. 안전은 기술·법·인프라 어느 하나로 풀리지 않는다.
역시 허사비스는 심오하다
허사비스에게 AI는 제품이나 경쟁 수단이 아니라 우주와 현실을 이해하기 위한 탐구 대상 같다고 적었다. 초전도체·핵융합·AGI를 하나의 질문으로 묶는 관점 앞에서 ‘AI의 미래’라는 말이 얄팍하게 느껴졌다는 단상.
완성은 아니지만 방향은 잡혔다
국가AI전략위원회 사회분과 일원으로서 AI행동계획 초안을 본 소회. ‘AI기본사회’를 선언이 아닌 정책으로 옮기는 과정에서 시민사회와의 접점을 만든 것을 전환점으로 꼽고, 완성은 아니지만 방향은 잡혔다고 적었다.
인문학과 시민사회, 두 접점 사이에서
인공지능과 인문학 세미나 종합토론 좌장을 맡은 날의 기록. AI 정책을 논의하며 인문학자들과 시민사회라는 두 접점 사이에서 긴장과 조율을 맡게 된다고 적고, 그 협력을 정책 성과로 잇는 설계가 남았다고 봤다.
2025년이 경고였다면 2026년은 설계의 해다
유심 해킹, 펨토셀 금융 사기, 국가정보자원관리원 화재, 쿠팡 개인정보 유출로 이어진 2025년을 경고로 읽었다. 망분리 폐기와 데이터 중심 보안 전환을 짚고, 2026년은 안전 질서를 설계하는 해가 되어야 한다.
AI 보안이 국가 수준에서 틀을 갖추기 시작했다
국정원과 과기정통부·KISA가 같은 날 공공용·민간용 AI 보안 지침서를 함께 내놓았다. 참고용 권고에 머물던 AI 보안이 의무적 실행 체계로 넘어가는 출발점이라고 평가했다.
‘책과 얽힘’ 마지막 송년회
한상기 선배가 9년간 운영해온 과학기술·AI인들의 사랑방 ‘책과 얽힘’의 마지막 송년회에 다녀와 남긴 기록. 그곳에서 이어진 인연들에 대한 고마움과 아쉬움을 짧게 적었다.
