AI 모델 경쟁은 춘추전국시대로 가는 게 좋다
초대형 범용 모델 하나로 겨루기보다 에이전트 효율형·오픈 프런티어·온디바이스로 전선이 나뉘는 편이 생태계에 낫다는 생각. 독자 파운데이션 모델의 평가 기준에 대한 제안도 함께 적었다.
Topic
LLM
논평 13편, 단상 8편.
1 / 1 쪽 · 21편
결국엔 ‘AI 거지’로 전락할 것 같다
프롬프트 엔지니어링에서 에이전틱·루프 엔지니어링까지 왔지만, 무한 증식하는 에이전트가 만들어내는 토큰 요금은 감당할 수 있을까. 농담 반 진담 반의 짧은 단상.
연구의 출발점은 답이 아니라 질문을 만드는 능력
예일대와 시카고대 연구진이 LLM의 연구 아이디어를 분석했다. 그럴듯하고 실현 가능하지만 사고의 범위는 인간 연구자보다 좁았다는 결과를 두고 남긴 생각.
돌아온 Fable 5, 수출통제 이후 코딩 성능 급락 논란
수출통제 해제 이후 다시 공개된 Fable 5를 두고 성능 저하 논란이 확산됐다. 벤치마크 하락이 모델 약화 때문인지 안전장치 때문인지는 아직 단정하기 어렵다.
Mythos는 보안 특화 모델이 아니다
Mythos를 '보안에 특화된 모델'로 읽는 흔한 오해를 짚었다. 범용 지능이 임계점을 넘자 보안 역량이 따라온 것이며, 보안 특화 모델과 보안내재화 독파모는 차원이 다른 문제라고 본다.
AI의 근본 문제, 철학의 오래된 질문들
환각은 칸트의 문제, 이해 논쟁은 비트겐슈타인의 문제. 캐나다 개발자가 만든 인포그래픽을 두고 AI의 한계를 버그가 아니라 지식·언어·계산 구조에 내재한 조건으로 보는 관점을 짚었다.
페르소나 데이터셋이 바꿀 사회과학 연구방법론
한국의 인구통계·지역·문화 다양성을 반영한 페르소나 데이터셋 Nemotron-Personas-Korea 공개 소식. 사회과학 연구가 설문과 통계를 넘어 AI 기반 모의사회 실험으로 넓어질 가능성을 반긴 짧은 글.
워크슬롭, AI가 만든 가짜 효율성
AI가 초안 속도는 높였지만 검토와 재작성 부담이 늘어 총 노동시간은 줄지 않았다는 기사. 겉만 그럴듯한 산출물이 유발하는 ‘수정 노동’을 워크슬롭으로 정리했다.
AI가 과학을 오염시키는가
13개 대형언어모델을 대상으로 한 Nature 연구는 거의 모든 모델이 학술 부정행위에 이용될 수 있음을 확인했다. 문제는 AI가 과학을 오염시키느냐가 아니라 신뢰를 어떻게 다시 설계하느냐다.
멀티 AI 통합 플랫폼 Ithy의 등장
여러 AI 모델의 응답을 동시에 불러 비교하고 종합하는 플랫폼을 살펴봤다. 개별 성능이 아니라 모델 사이의 조율이 핵심이며, 생성형 AI의 무게중심이 대화형 답변에서 사고 인프라로 옮겨가고 있다.
LLM으로 쓴 에세이가 남기는 인지 부채
MIT 미디어랩 연구진이 4개월간 뇌파와 기억 회상을 측정한 결과, LLM을 쓴 집단의 인지 활동과 기억 회상이 가장 낮았다. 학습 도구로서 인공지능의 역할을 다시 설계해야 한다는 지적을 옮긴다.
소버린 보안을 설계할 수 있는 드문 조건
다크웹 언어모델과 토크나이저 취약성 연구를 학술 성과로 끝내지 않고 운영 가능한 보안 역량으로 축적한 사례. 외산 LLM 의존을 넘어 소버린 보안을 설계할 조건을 갖췄다고 평가한다.
체급이 성능을 끌어올리되, 전략은 성과의 방향을 바꾼다
국내 독자 AI 파운데이션 모델 5종의 벤치마크가 공개됐다. 대규모 모델이 범용 지표에서 앞섰지만, 중형 모델도 데이터·학습 전략에 따라 특정 지표에서 대등한 성과를 냈다.
Solar를 GLM 파생으로 단정할 근거는 없다
Solar 모델이 GLM 파생이라는 의혹은 코사인 유사도처럼 식별력이 거의 없는 지표에 기대고 있다. 다만 대규모 모델의 계보를 무엇으로 검증할지 되묻게 하는 건강한 논쟁의 출발점이라는 평가.
AI가 만든 가짜 논문, 학술지에서 인용 확산
AI가 만들어 낸 존재하지 않는 논문과 저널이 실제 학술지에 인용되며 퍼지고 있다. 피어리뷰가 걸러내지 못하는 구조적 문제와 흔들리는 연구 신뢰 기반을 짚었다.
할루시네이션은 버그가 아니라 구조적 속성이다
OpenAI 논문 「Why Language Models Hallucinate」를 읽고, 이진 채점 벤치마크가 ‘모른다’고 말할 동기를 없앤다는 지적을 교육·산업·정책 설계의 문제로 옮겨 적었다.
AI의 한계를 넘으려면 인간을 다시 봐야 한다
한상기 선배의 추천으로 본 일리야 수츠케버 인터뷰 감상. 계산력을 더 쌓는 대신 인간의 감정과 가치함수에서 다음 단계를 찾는 그의 관점이 다른 연구자들과 어떻게 다른지 정리했다.
IQ 142가 말해주는 것과 말해주지 않는 것
Gemini 3 Pro가 멘사 노르웨이 테스트에서 142점을 기록했다. 다만 인간용으로 설계된 IQ 테스트가 AI의 지능을 그대로 보여주지는 않는다는 지적을 함께 정리했다.
긴 컨텍스트와 RAG가 결합하는 방향으로
AI가 인간의 인지 아키텍처처럼 거대한 컨텍스트 윈도우로 깊이 추론하면서 RAG로 최신 정보를 확보하는 구조로 진화할 것이라는, 한 문단짜리 전망이다.
제미나이 3.0, 일단 ‘이거 대단한데’
구글 제미나이 3.0 프로로 한 시간 동안 인문사회과학 주제의 보고서와 논문을 써봤다. 더 써보면 약점도 발견되겠지만 일단은 대단하다고 적은 첫인상 메모.
AGI 집착 버리고 특화 AI에 집중하라
게리 마커스의 뉴욕타임스 기고를 정리한 글. AI 파일럿의 95%가 수익을 내지 못했다는 MIT 연구를 근거로 범용 AI 경쟁을 비판하고 특화 AI로의 전환을 제안한 내용을 옮겼다.