1. OpenAI, 향상된 의도 인식 기능을 갖춘 GPT-5.5 Instant 업그레이드
2026년 5월 5일 GPT-5.5 Instant가 처음 출시된 이후, OpenAI는 해당 모델의 업그레이드 버전을 출시했습니다. 이번 업데이트는 더 나은 의도 인식과 복잡한 제약 조건을 보다 강력하게 처리함으로써 자연스러운 상호작용을 개선하는 데 중점을 두었습니다. 업데이트된 모델은 모든 ChatGPT 사용자가 이용할 수 있으며, chat-latest API 별칭을 통해서도 접근할 수 있습니다.
- • OpenAI는 2026년 5월 5일 초기 출시 이후 6월 24일에 GPT-5.5 Instant 모델을 업데이트했습니다.
- • chat-latest API 별칭은 이제 업데이트된 GPT-5.5 Instant 버전을 가리킵니다.
- • 새로운 기능에는 향상된 의도 인식과 복잡한 제약 조건에 대한 개선된 처리 능력이 포함됩니다.
- • 이 모델은 40만 토큰의 컨텍스트 윈도우와 12만 8천 토큰의 최대 출력 제한을 유지합니다.
- • chat-latest의 가격은 입력 토큰 100만 개당 5달러, 출력 토큰 100만 개당 30달러로 유지되며, 캐시된 입력에 대해서는 90% 할인이 적용됩니다.
현재 chat-latest API 별칭을 사용하는 개발자들은 코드 변경 없이도 400K 컨텍스트 윈도우를 지원하며 제약 조건을 더 잘 이해하는 고성능 모델을 즉시 사용할 수 있습니다.
2. Liquid AI, 온디바이스 에이전트 워크플로우를 위한 LFM2.5-230M 출시
Liquid AI의 LFM2.5-230M은 스마트폰, 노트북, 로봇 공학 등 자원이 제한된 하드웨어에서 로컬로 실행되도록 설계된 고도로 최적화된 파운데이션 모델입니다. 낮은 메모리 점유율 외에도, 커뮤니티 시연을 통해 M4 Max 프로세서에서 사용자 지정 WebGPU 커널을 사용하여 초당 1,400토큰의 속도로 브라우저 내에서 로컬로 실행되는 모습이 확인되었습니다.
- • Liquid AI는 온디바이스 에이전트 워크플로우 및 데이터 추출에 최적화된 230M 파라미터 모델 LFM2.5-230M을 출시했습니다.
- • 이 모델은 LFM2 아키텍처를 사용하여 게이트형 단거리 컨볼루션과 그룹 쿼리 어텐션을 결합해 400MB 미만의 메모리 점유율을 구현했습니다.
- • 32K 컨텍스트 윈도우를 지원하며 로컬에서 실행 시 삼성 갤럭시 S25 울트라에서 초당 213토큰, 라즈베리 파이 5에서 초당 42토큰의 속도를 달성합니다.
- • BFCLv3 도구 사용 벤치마크에서 43.26점을 기록하여 10억 파라미터 규모의 Google Gemma 3 1B를 능가했습니다.
- • LFM Open License v1.0으로 출시되어 개인 및 연간 매출 1,000만 달러 미만의 기업은 무료로 사용할 수 있습니다.
- • Hugging Face에서 이용 가능하며 llama.cpp, MLX, vLLM, SGLang, ONNX를 기본 지원합니다.
개발자들은 400MB 미만의 고성능 모델을 엣지 디바이스에서 로컬로 실행하여 높은 토큰 처리량을 달성하고 도구 사용 벤치마크에서 더 큰 모델들을 능가하는 성능을 얻을 수 있습니다.
3. DeepReinforce, 오픈소스 코딩 모델 Ornith-1.0 출시
DeepReinforce는 에이전트 코딩 작업을 위해 특별히 설계된 오픈소스 모델 제품군인 Ornith-1.0을 출시했습니다. 사전 학습된 Gemma 4 및 Qwen 3.5 아키텍처를 기반으로 구축된 이 모델들은 Hugging Face에 호스팅되며 널리 사용되는 서빙 프레임워크와 완벽하게 호환됩니다. 9B 밀집(dense) 모델은 Gradio 서버 애플리케이션의 지원을 받아 Hugging Face Spaces에서 테스트할 수 있습니다.
- • DeepReinforce는 Gemma 4 및 Qwen 3.5 아키텍처를 기반으로 사후 학습된 MIT 라이선스 Ornith-1.0 모델 제품군을 출시했습니다.
- • 라인업은 9B 밀집, 31B 밀집, 35B MoE(Mixture-of-Experts), 397B MoE 등 네 가지 크기로 구성됩니다.
- • 이 모델들은 수동으로 설계된 하네스에 의존하는 대신 강화 학습 중에 스스로 오케스트레이션 스캐폴드를 학습합니다.
- • 보상 해킹을 방지하기 위해 DeepReinforce는 고정된 신뢰 경계, 결정론적 모니터, 고정된 LLM 판정자라는 세 가지 방어 계층을 구현했습니다.
- • 플래그십 모델인 397B MoE는 Terminal-Bench 2.1에서 77.5점, SWE-Bench Verified에서 82.4점을 기록했습니다.
- • 모든 모델은 OpenAI 호환 엔드포인트를 제공하며 vLLM, SGLang 및 Transformers를 지원합니다.
개발자들은 vLLM 및 SGLang과 같은 인기 있는 서빙 프레임워크를 기본적으로 지원하는 고성능 MIT 라이선스 오픈소스 코딩 모델을 사용할 수 있게 되었습니다.
4. Microsoft, Foundry API를 통해 MAI-Image-2.5 모델 제공
Microsoft는 Build 2026에서 발표했던 MAI-Image-2.5 모델 제품군을 Foundry API를 통해 정식 출시했습니다. 이번 출시에는 표준 MAI-Image-2.5 모델과 더 효율적인 MAI-Image-2.5-Flash 변형이 포함되어 있어, 개발자들에게 텍스트-이미지 생성 및 이미지 편집을 위한 새로운 도구를 제공합니다.
- • MAI-Image-2.5 및 MAI-Image-2.5-Flash는 이제 Microsoft Foundry API를 통해 사용할 수 있습니다.
- • MAI-Image-2.5는 Artificial Analysis Image Arena에서 텍스트-이미지 부문 2위, 이미지 편집 부문 3위를 차지했습니다.
- • MAI-Image-2.5-Flash는 더 저렴하고 빠른 변형 모델로, 텍스트-이미지 부문 8위, 이미지 편집 부문 6위를 기록했습니다.
- • 가격은 표준 모델의 경우 이미지 1,000장당 48달러, Flash 변형은 1,000장당 20달러로 책정되었습니다.
- • 이 모델들은 32K 컨텍스트와 약 1MP 출력 해상도로 텍스트-이미지 생성 및 이미지 편집을 지원합니다.
개발자들은 이제 고성능 이미지 모델을 자신의 애플리케이션에 통합할 수 있으며, 새로운 Flash 변형을 통해 이미지 생성 작업 시 비용을 절감할 수 있습니다.
5. NVIDIA, Nemotron-TwoTower-30B 확산 언어 모델 출시
NVIDIA의 새로운 Nemotron-TwoTower-30B-A3B-Base-BF16은 확산(diffusion)과 자기회귀(autoregressive) 아키텍처를 결합하여 언어 모델링에 대한 독특한 접근 방식을 제시합니다. 고정된 자기회귀 컨텍스트 타워와 확산 디노이저 타워를 활용함으로써, 이 모델은 토큰 블록을 병렬로 생성할 수 있어 로컬 배포 시 상당한 속도 향상을 제공합니다.
- • NVIDIA는 Nemotron 3 Nano 30B-A3B 백본을 기반으로 구축된 Nemotron-TwoTower-30B-A3B-Base-BF16을 출시했습니다.
- • 이 모델은 고정된 자기회귀 컨텍스트 타워와 확산 디노이저 타워를 사용하여 토큰 블록을 병렬로 생성합니다.
- • 자기회귀 기준 모델 대비 2.42배의 실제 생성 처리량을 달성합니다.
- • 기본 마스크 확산 설정은 자기회귀 기준 모델의 총 벤치마크 품질 중 98.7%를 유지합니다.
이번 출시는 벤치마크 품질의 98.7%를 유지하면서도 처리량을 획기적으로 높이는 고효율 병렬 토큰 생성 아키텍처를 도입했습니다.
6. BatonBot, 칸반 보드를 통한 로컬 AI 코딩 워크플로우 자동화
BatonBot은 개발자가 여러 AI 코딩 작업을 비동기적으로 관리할 수 있도록 로컬 우선 칸반 워크플로우를 도입했습니다. Aider, Cline, Claude Code와 같은 인기 도구와 통합되어 개발자가 작업을 대기열에 올리고 지속적인 수동 감독 없이 에이전트가 작업을 수행하도록 할 수 있습니다.
- • BatonBot은 AI 코딩 워크플로우를 자동화하고 수동 감독을 줄이기 위해 설계된 로컬 우선 오픈소스 애플리케이션입니다.
- • 사용자는 코딩 작업을 설정하고 에이전트에게 위임하며 칸반 스타일 보드를 통해 진행 상황을 모니터링할 수 있습니다.
- • Aider, Cline, Roo, Codex CLI, Claude Code 및 로컬 LLM을 포함한 로컬 또는 반로컬 AI 코딩 도구 사용자를 위해 설계되었습니다.
- • 프로젝트는 GitHub(https://github.com/mdoty4/batonbot)에서 호스팅됩니다.
개발자들은 모든 단계를 수동으로 감독할 필요 없이 로컬 코딩 에이전트(Aider, Cline, Claude Code 등)를 비동기적으로 실행하고 모니터링할 수 있습니다.
7. NVIDIA, MoE 파인튜닝 가속을 위한 NeMo AutoModel 출시
NVIDIA의 NeMo AutoModel은 Mixture-of-Experts(MoE) 모델 파인튜닝의 자원 집약적인 문제를 해결합니다. 고급 통신 커널과 전문가 병렬 처리를 활용하여 개발자가 표준 GPU 클러스터를 사용하여 대규모 오픈 가중치 모델을 자신의 데이터셋에 훨씬 쉽고 저렴하게 적응시킬 수 있도록 합니다.
- • NVIDIA는 MoE 아키텍처의 파인튜닝 파이프라인을 최적화하기 위해 Hugging Face에 NeMo AutoModel을 출시했습니다.
- • 이 프레임워크는 Qwen3 및 DeepSeek V3를 포함한 MoE 모델을 지원합니다.
- • 전문가 병렬 처리와 DeepEP 융합 통신 커널을 활용하여 GPU 클러스터 전반에 전문화된 전문가 가중치를 동적으로 분산합니다.
- • NeMo AutoModel은 기본 Transformers v5 라이브러리 대비 최대 3.7배의 학습 처리량 향상을 제공합니다.
- • 기본 Transformers v5 라이브러리 대비 피크 GPU 메모리 사용량을 32% 절감합니다.
대규모 MoE 모델을 파인튜닝하는 개발자들은 학습 처리량을 최대 3.7배 향상시키고 피크 GPU 메모리 사용량을 32% 절감할 수 있습니다.
8. MCP 지원을 포함한 무료 의료 RAG API 출시
로컬 LLM에 검증된 의료 사실에 대한 빠른 접근을 제공하기 위해 새로운 경량 의료 RAG API가 출시되었습니다. 의료 위키백과 문서를 기반으로 구축되고 저사양 ARM VPS에서 호스팅되는 이 API는 Model Context Protocol(MCP)을 기본적으로 지원하여 에이전트 워크플로우에 쉽게 연결함으로써 사실 오류를 방지합니다.
- • 의료 위키백과 문서를 기반으로 한 무료 RAG API는 https://hyfl.uk에서 액세스할 수 있습니다.
- • 이 API는 로컬 LLM에 의료 사실을 제공하여 환각 현상을 수정하도록 설계되었습니다.
- • 단일 ARM VPS에서 호스팅되며 약 2GB의 RAM을 사용하고 1초 미만의 응답 시간을 목표로 합니다.
- • AI 에이전트와의 쉬운 통합을 위해 Model Context Protocol(MCP)을 지원합니다.
- • 시연을 통해 이 API가 Lhermitte 징후와 관련하여 qwen3.5-0.8B 모델의 환각 현상을 수정하는 모습이 확인되었습니다.
개발자들은 Model Context Protocol을 사용하여 로컬 LLM과 에이전트를 검증된 의료 지식 베이스에 쉽게 연결하여 환각 현상을 줄일 수 있습니다.
9. Audio.cpp, 단일 C++/GGML 런타임으로 12개 오디오 모델 통합
Audio.cpp는 오디오 모델을 로컬에서 실행하기 위한 통합된 경량 C++ 런타임을 제공합니다. ggml을 활용하여 복잡한 Python 환경의 필요성을 제거하고, Qwen3-ASR과 Qwen3-TTS를 단일 CLI 명령어로 결합하는 동일 언어 더빙 파이프라인을 포함한 상당한 성능 향상을 제공합니다.
- • Audio.cpp는 ggml 기반의 오디오 모델용 네이티브 C++ 추론 프레임워크입니다.
- • 현재 25개의 모델 제품군을 포함하며, Qwen3-TTS, PocketTTS, VeVo2를 포함한 12개가 오프라인 사용을 위해 출시되었습니다.
- • 출시된 모델들은 TTS, 음성 복제, ASR, 정렬, VAD, 음성 변환 및 코덱 작업을 다룹니다.
- • 런타임, 세션 처리, CLI 및 서버 로직을 통합하여 별도의 Python 환경이 필요하지 않습니다.
- • 벤치마크에 따르면 PocketTTS는 Python 대비 CUDA에서 3.68배의 속도 향상을 보이며, 실시간 생성 속도는 최대 48.40배에 달합니다.
- • 모델에 따라 CPU, CUDA, Vulkan 및 Metal 백엔드를 지원합니다.
개발자들은 무거운 Python 환경 없이도 텍스트-음성 변환, 음성 복제, ASR 모델을 로컬에 배포하여 엄청난 속도 향상과 통합된 세션 처리를 달성할 수 있습니다.
10. JetSpec, 최대 9.64배의 무손실 LLM 속도 향상 달성
JetSpec 연구는 기존 블록 확산이나 자기회귀 드래프팅 헤드의 한계를 극복하기 위해 인과적 병렬 트리 드래프팅을 사용하는 추측 디코딩 방식을 도입합니다. 단일 패스로 인과 관계를 보존하는 트리를 드래프팅함으로써, 이 시스템은 표준 벤치마크에서 대규모의 무손실 속도 향상을 달성합니다.
- • JetSpec은 LLM 생성을 위한 드래프팅 비용과 품질을 공동 최적화하기 위해 인과적 병렬 트리 드래프팅을 활용합니다.
- • 이 시스템은 MATH-500에서 최대 9.64배, 오픈형 채팅에서 4.58배의 엔드투엔드 속도 향상을 달성하면서도 무손실 생성을 유지합니다.
- • CUDA 그래프 및 커널 최적화 사용 시 단일 B200 GPU에서 초당 약 1,000토큰에 도달합니다.
- • 이 방식은 이전 추측 디코딩 접근 방식의 한계를 극복하기 위해 단일 패스로 인과 관계를 보존하는 트리를 드래프팅합니다.
개발자들은 병렬 트리 드래프팅을 채택하여 생성 품질을 저하시키지 않으면서 로컬 LLM 추론 속도를 획기적으로 가속화할 수 있습니다.
11. Backtrack Sampler, 소형 모델 코딩 성능 대폭 향상
새로운 백트랙 샘플러 및 검증기 기술은 가중치를 변경하지 않고도 소형 모델의 코딩 능력을 획기적으로 향상시킬 수 있는 방법을 제공합니다. 추론 중 디코딩 속도 저하와 VRAM 및 컴퓨팅 요구 사항 증가라는 단점이 있지만, 이 기술은 환각 현상을 크게 줄이며 향후 llama.cpp와 같은 런타임에 직접 통합될 수 있습니다.
- • 새로운 백트랙 샘플러 기술은 0.5B 모델이 코딩 작업에서 2B-4B 모델과 동등한 성능을 발휘할 수 있게 합니다.
- • 이 기술은 대형 모델의 환각 현상을 30-50% 줄일 것으로 예상되지만 5-30%의 디코딩 속도 저하를 초래합니다.
- • 이 기술을 구현하려면 유사한 크기의 검증기 모델을 학습시켜야 하며, 이는 VRAM 요구 사항을 두 배로 늘리고 컴퓨팅 요구 사항을 1.5-3배 증가시킵니다.
- • 검증기 모델 학습에는 원래 사전 학습 토큰 크기의 약 0.01%가 필요합니다.
- • 검증기 모델은 동일한 데이터 분포를 공유하는 동일하거나 더 낮은 가중치 등급의 다른 모델로 일반화됩니다.
로컬 모델을 실행하는 개발자들은 5-30%의 디코딩 속도 저하를 감수하는 대신 코딩 성능을 크게 향상시키고 환각 현상을 30-50% 줄일 수 있습니다.