1. Thinking Machines Labが初の公開マルチモーダルモデル「Inkling」をリリース
5月にマルチモーダルインタラクションアーキテクチャをプレビューしていたThinking Machines Labが、初の公開モデル「Inkling」を立ち上げました。今回のリリースは、研究プレビューから実用レベルのオープンウェイトモデルへの移行を意味し、合計9750億のパラメータと、制御可能な推論負荷を備えています。45兆トークンのマルチモーダルデータでゼロから学習されたこのモデルは、256のルーティングエキスパートと2つの共有エキスパートを持つ66層のデコーダー専用トランスフォーマーを採用しています。
- • Inklingは、合計9750億パラメータ、アクティブパラメータ410億を持つ、オープンウェイトのネイティブマルチモーダルMixture-of-Experts (MoE) モデルです。
- • 思考負荷を制御するメカニズムを備えており、開発者は推論予算を0.2から0.99の間でプログラム的に調整可能です。
- • 100万トークンのコンテキストウィンドウをサポートし、テキスト、画像、音声の入力を受け付けます。
- • Apache 2.0ライセンスでリリースされており、ウェイトはHugging Faceで公開されています。
- • TogetherAI、Fireworks、Modal、Databricks、Basetenなどのパートナーが提供するホスト型APIを通じて利用可能です。
このリリースにより、同社のマルチモーダル技術が一般公開され、開発者は以前発表されたインタラクション研究に基づく高パラメータモデルを利用できるようになります。
2. Soofi ConsortiumがハイブリッドMoEモデル「Soofi S 30B-A3B」をリリース
KI Bundesverbandが調整するSoofi Consortiumは、Soofi S 30B-A3BのプレビューウェイトをHugging Faceで公開しました。ハイブリッドMamba-Transformer MoEとして構築されたこのモデルは、Mamba-2シーケンスミキシング層と、粒度の細かいMoEおよびGrouped-Query Attention層を組み合わせることで、パフォーマンスと効率を最適化しています。学習プロセスでは、26.68兆トークンにわたるWarmup–Stable–Decayスケジュールが使用され、第2フェーズでは学習データにおけるドイツ語の割合が15.32%まで引き上げられました。
- • Soofi S 30B-A3Bは、合計316億パラメータ、トークンあたり32億のアクティブパラメータを持つオープンウェイトのハイブリッドMamba-Transformer Mixture-of-Experts (MoE) モデルです。
- • 最大100万トークンのコンテキストウィンドウをサポートし、vLLM経由でのデプロイが可能です。
- • アーキテクチャは52層で構成され、23のMamba-2シーケンスミキシング層、23の粒度の細かいMoE層、6つのGrouped-Query Attention層が含まれます。
- • 他のオープンベースモデルとの評価において、英語の総合スコア70.1、ドイツ語の総合スコア79.1を達成しました。
- • 学習はドイツ連邦経済気候保護省の資金提供を受け、Deutsche TelekomのIndustrial AI Cloud上で最大512基のNVIDIA B200 GPUを使用して実施されました。
開発者は、vLLMを使用して100万トークンのコンテキストウィンドウを備えた、非常に効率的なオープンウェイトのドイツ語/英語ハイブリッドモデルをデプロイできるようになります。
3. GoogleがPixel 10のTPUに最適化された「Gemma 4 E2B」を正式リリース
Gemma 4 12Bモデルのリリースと、それに続くモバイルハードウェアで実行するためのコミュニティの取り組みを基盤として、Googleは「Gemma 4 E2B」を導入しました。このバージョンはPixel 10のTensor Processing Unit (TPU) に特化して最適化されており、以前のコミュニティ主導の実装を超えた、ネイティブで低遅延かつオフラインのマルチモーダル機能を実現します。
- • Gemma 4 E2Bは、Gemma 4アーキテクチャの公式なTPU最適化バージョンです。
- • 音声文字起こしや画像識別を含む、ネイティブかつオフラインのマルチモーダルタスクを可能にします。
- • プライベートな音声またはテキストコマンドを介して、電話のシステムレベルの機能を直接制御できます。
- • 実験的なコミュニティ主導のローカル推論から、サポートされたハードウェアアクセラレーションによるネイティブ機能へと移行します。
この公式最適化により、開発者は実験的なコミュニティ設定からサポートされたネイティブ機能へと移行し、プライベートなオンデバイスマルチモーダルAIをPixel 10アプリケーションに統合するための安定した高性能なパスを得ることができます。
4. SpaceXAIがターミナルコーディングエージェント「Grok Build」をオープンソース化
SpaceXAIはGrok Buildのソースコードを公開し、ターミナルベースの開発者ツールを、以前の有料クローズドソースベータ版からオープンソースプロジェクトへと移行させました。フルスクリーンのテキストユーザーインターフェース (TUI) として動作するGrok Buildは、対話的に実行することも、CIパイプライン内でヘッドレスで実行することも可能です。標準化されたAgent Client Protocolを使用して外部エディタと統合できるため、現代の開発環境に柔軟に追加できます。
- • Grok Buildは、Apache License, Version 2.0の下でオープンソース化されました。
- • このツールは、ターミナルベースのAIコーディングのためのフルスクリーンTUIとして機能します。
- • 対話的な使用、CI向けのヘッドレス操作、Agent Client Protocolを介したエディタ統合をサポートしています。
- • macOS、Linux、Windows向けのビルド済みバイナリが利用可能で、ソースからのビルドにはRustとprotocが必要です。
- • オープンソースライセンスですが、外部からのコントリビューションは受け付けていません。
オープンソースへの移行により、以前は有料サブスクリプションが必要だったターミナルベースのAIコーディングエージェントに、開発者がアクセスし、修正を加えることが可能になりました。
5. dejaがローカルコーディングエージェントの履歴をインデックス化し、SSH同期メモリを実現
リアルタイムで新しいデータをキャプチャするメモリプラットフォームとは異なり、dejaはインストール前に作成された履歴セッションを含む既存のエージェントログをインデックス化します。これは、Model Context Protocol (MCP) ワークフローと統合される安全なローカルメモリ層を提供します。このツールは、Go、npm、Homebrew、またはシェルスクリプト経由でインストールできます。
- • dejaは、Claude Code、Codex、opencodeのローカル会話履歴をインデックス化する、依存関係ゼロのGoバイナリです。
- • ローカルで増分インデックス作成を実行し、~/.cache/dejaの転置インデックスにデータを保存します。
- • インデックス作成中にAPIキー、トークン、JWTなどの機密情報を自動的に秘匿化します。
- • MCPリコール、セッション開始時の自動リコール、共有フォルダやSSHを介したマシン間の同期機能などを備えています。
- • ネットワークコードを一切含まない完全なローカル動作でデータプライバシーを確保しており、MITライセンスで提供されています。
Claude Codeのようなコーディングエージェントに対し、マシン間で自動的に同期し、機密情報を秘匿化する、ローカルで安全かつ検索可能なメモリ層を開発者に提供します。
6. GoogleがWebGPUアクセラレーションによるブラウザ推論用「LiteRT.js」をリリース
GoogleによるLiteRT.jsのリリースは、ブラウザに高性能でハードウェアアクセラレーションされたオンデバイス推論をもたらします。このライブラリは、モデルの全デリゲーションをアクセラレータに要求し、モデルが完全にデリゲートできない場合はCPU実行にフォールバックします。Googleは、モデル推論にはLiteRT.jsを使用し、前処理および後処理タスクには引き続きTensorFlow.jsを使用することを推奨しています。
- • LiteRT.jsは、ネイティブのLiteRT (旧TensorFlow Lite) ランタイムをWebAssemblyにコンパイルし、ブラウザ内で直接モデルを実行します。
- • CPU用のXNNPACK、GPU用のWebGPU経由のML Drift、NPU用の実験的なWebNN APIという3つのバックエンドを利用します。
- • Googleは、他のWebランタイムと比較して最大3倍のパフォーマンス、CPUと比較してGPU/NPUバックエンドで5〜60倍の高速化を報告しています。
- • PyTorchモデルは、TorchDynamoでエクスポート可能かつ静的な次元を持つ場合、LiteRT Torchを使用して.tflite形式に変換できます。
- • LiteRT.jsでのメモリリークを避けるため、開発者はdeleteを呼び出してテンソルメモリを手動で管理する必要があります。
Web開発者は、WebGPUとWebAssemblyを使用して、最大3倍高速なパフォーマンスでハードウェアアクセラレーションされたオンデバイスAIモデルをブラウザ内で直接実行できるようになります。
7. ExLlamaV3がメジャーなパフォーマンスアップグレードを伴うプロダクション版v1.0.0に到達
1年以上の開発を経て、ExLlamaV3は初のプロダクションレディなリリースに到達しました。このアップデートはパフォーマンスとデプロイの容易さに焦点を当て、外部のflash-attention-2およびxformersライブラリへの依存を排除しました。また、Mixture-of-Expertsカーネルチケットスケジューラ、GptOssForCausalLMおよびNemotronHForCausalLMモデルのサポート、そしてコンパイル時間の短縮が導入されています。
- • ExLlamaV3 v1.0.0はflash-attention-2およびxformersへの依存を削除し、ローカルのビルドおよびデプロイプロセスを簡素化しました。
- • テンソル並列サポートがGemma 4を含むほとんどのモデルに拡張されました。
- • 新しいアテンションカーネルが、オンラインキャッシュ量子化、およびSWA層とアテンションシンク用のデュアル入力をサポートします。
- • 新しいconv1dカーネルが導入され、causal_conv1dが不要になりました。
- • パフォーマンスの向上には、AmpereアーキテクチャでのGEMM/GEMVパフォーマンスの強化と、新しいINT8 GEMVカーネルが含まれます。
flash-attention-2のような重い依存関係を削除し、Gemma 4などのモデルに対するテンソル並列サポートを追加することで、ローカルLLM推論を加速し、デプロイを簡素化します。
8. AnthropicがClaudeのメモリ情報漏洩の脆弱性を修正
あるセキュリティ研究者が、日次の要約パスと検索ツールを介して高精度のユーザープロファイルを保存するClaudeのメモリシステムに対するデータ抽出攻撃を実証しました。攻撃者はClaudeを騙して悪意のあるWebサイトを訪問させることで、web_fetchツールにリンクのディレクトリ構造を追跡させ、機密ユーザーデータをエンコードして漏洩させることができました。Anthropicは、web_fetchが外部リンクを追跡することを制限することで、この脅威を緩和しました。
- • 研究者のAyush Paul氏は、保存されたユーザープロファイルの抽出を可能にするClaudeのメモリシステムの脆弱性を発見しました。
- • この攻撃はClaudeのweb_fetchツールを悪用し、モデルに機密データをエンコードさせ、悪意のあるサイト上のURLパスを通じて送信させるものでした。
- • この脆弱性は、ユーザーがClaudeに悪意のあるサイトを訪問するように依頼した場合、またはそのサイトが検索結果に表示された場合にトリガーされる可能性がありました。
- • Anthropicは、web_fetchが外部ページのリンクを追跡する機能を無効化し、ナビゲーションを検索結果とユーザーが提供したURLに限定することで問題を緩和しました。
- • この脆弱性はAnthropicのHackerOneバグ報奨金プログラムを通じて開示されましたが、問題は内部で特定されていたため、報奨金は授与されませんでした。
Webブラウジングエージェントを構築する開発者に対し、重大なデータ抽出ベクトルについて知らせるとともに、Claudeのweb_fetchツールにおける外部リンク追跡を無効化するというAnthropicの緩和策を説明します。
9. Ambiance LLMハーネスがUnixファイルシステムをエージェントインターフェースとして採用
Ambianceは、データ、ログ、設定を保存するための主要なインターフェースとしてローカルファイルシステムを扱うことで、エージェントのランタイム環境を再定義します。イベント駆動型のカーネルを使用してファイルシステムの変更を監視することで、このハーネスはエージェントが外部の状態変化に対して応答し続けることを保証し、従来のエージェントループに代わる構造化された代替手段を提供します。
- • Ambianceは、エージェントが持つコーディングとシステム管理の既存の知識を活用し、認知負荷を軽減します。
- • このシステムは、イベントバスとして機能し、ファイルシステムの変更を監視してLLMの応答をトリガーする「カーネル」を備えています。
- • システムタスク用の「root」、人間との対話用の「pai」、ジャーナリング用の「librarian」という3つのデフォルトLLMインスタンスを定義しています。
- • このプロジェクトはRecurse Centerで開始され、whitematterlabs.aiまたはインストールスクリプトを通じてテスト可能です。
より信頼性が高く応答性の高いLLMエージェントを構築するための、実験的でUnix風のローカル環境とイベント駆動型カーネルを提供します。