AI 연말 정리 글의 문제는 발표를 변화로 착각한다는 점이다. 어떤 해든 발표는 요란하고, 대부분은 다음 해에 아무도 기억하지 않는다.
그래서 기준을 먼저 정한다. 이 글에서 “실제로 바뀐 것”은 다음 중 하나 이상을 만족하는 것만 말한다.
- 가격이 변했다 — 공개된 요금표로 확인 가능하다
- 사양이 변했다 — 컨텍스트 길이, 처리 한도처럼 숫자로 나온다
- 작업 방식이 변했다 — 실무자가 어제와 다르게 일하고 있다
발표, 데모 영상, 로드맵은 여기에 안 들어간다.
실제로 바뀐 것
1. 컨텍스트 길이가 자릿수로 늘었다
주요 모델들의 컨텍스트 창이 100만 토큰 규모로 올라섰다. 이건 스펙 자랑이 아니라 작업 방식을 바꾼 변화다.
예전에는 긴 문서를 다루려면 잘라 넣고, 요약을 이어 붙이고, 검색으로 조각을 골라내는 파이프라인을 직접 짜야 했다. 이제는 상당수의 경우 통째로 넣고 묻는 것이 더 정확하고 빠르다. RAG를 붙일지 말지가 기본값이 아니라 선택지가 됐다.
2. 실질 비용이 내려갔다
표시 단가만 봐도 계층이 뚜렷하다. 상위 모델과 소형 모델의 100만 토큰당 단가가 몇 배씩 차이 나고, 여기에 프롬프트 캐싱(반복되는 앞부분을 재사용해 입력 단가를 크게 낮춤)과 배치 처리 할인(즉시 응답이 필요 없는 작업 50% 할인)이 겹친다.
결과적으로 “쉬운 일은 싼 모델로, 반복 맥락은 캐싱으로, 급하지 않은 건 배치로” 세 가지만 적용해도 청구서가 자릿수 단위로 달라진다. 모델을 잘 고르는 것이 엔지니어링 항목이 됐다는 뜻이다.
3. 코딩 도구가 일상이 됐다
자동완성 수준을 넘어, 저장소 전체를 읽고 여러 파일을 고치고 테스트를 돌려 스스로 수정하는 도구가 실무에 들어왔다. 신호는 도구 자체가 아니라 주변에서 보인다. 채용 공고에 AI 도구 활용이 언급되고, 팀에 코드 리뷰 규칙이 새로 생기고, “AI가 짠 코드”를 다루는 절차를 논의하기 시작했다.
말만 바뀐 것
완전 자율 에이전트 — “목표만 주면 알아서 끝낸다”는 데모는 매달 나온다. 실사용에서는 여전히 사람이 중간에 개입해야 한다. 이유는 기술적이다. 긴 작업일수록 중간 판단의 오류가 누적되고, 되돌릴 수 없는 행동(결제, 삭제, 발송)에 대한 신뢰 문제가 남는다. 부분 자동화 + 사람 검토가 여전히 현실적인 구성이다.
“이제 프롬프트는 필요 없다” — 모델이 좋아져 요령의 값어치는 줄었지만, 요구사항을 명확히 적는 일은 그대로 남았다. 사라진 것은 마법의 주문이지 명세를 쓰는 능력이 아니다.
AI 검색이 검색을 대체했다 — 사용자가 늘어난 것은 사실이지만 대체는 아니다. 출처 확인이 필요한 질문, 거래·예약처럼 행동이 따르는 질문에서는 여전히 기존 검색이 쓰인다. 다만 정보 소비의 시작점이 나뉘기 시작한 것은 관찰 가능한 변화다.
AI가 개발자를 대체했다 — 신입 채용이 줄어든 것은 데이터로 확인되지만 원인이 AI인지 경기 요인인지는 결론이 나지 않았다. 상관과 인과를 섞은 주장이 가장 많이 유통된 영역이다.
내년에 실제로 영향이 올 지점
예측이 아니라 이미 신호가 보이는 것만 적는다.
AI 크롤러가 검색 크롤러를 넘어선 사이트가 늘고 있다. 웹 로그를 직접 보면 AI 서비스의 크롤러 방문이 검색엔진 크롤러를 크게 웃도는 사례가 흔해졌다. 콘텐츠를 만드는 쪽에서는 “검색 결과에 어떻게 노출되나”뿐 아니라 “AI 답변에 어떻게 인용되나”가 새로운 질문이 된다.
비용 최적화가 기본 업무가 된다. 모델을 붙이는 것이 쉬워진 만큼 청구서가 예산 항목으로 올라왔다. 모델 라우팅, 캐싱, 배치는 이미 선택이 아니라 설계 요소다.
컨텍스트가 길어질수록 ‘무엇을 넣지 않을까’가 문제가 된다. 넣을 수 있다고 다 넣으면 비용과 정확도 양쪽에서 손해다. 긴 컨텍스트를 어떻게 관리하느냐가 다음 단계의 기술 과제다.
⚠️ 이 글의 수치와 사양은 2026년 8월 기준이며 이 분야는 변화가 빠르다. 구체적 요금과 모델 사양은 각 제공사의 공식 페이지에서 확인할 것.
Leave a Reply