Zennの「大規模言語モデル」のフィード
フィード

muse.ai+githubでシステム開発やってみた
Zennの「大規模言語モデル」のフィード
チャットで話しかけるだけで、仕様書づくりからコーディング、テスト、GitHubへのpushまで回せるのか。Metaの個人AI「Muse」とGitHubで、小さなツールを1日で作ってみた記録です。作ったのは Agent Run Guard。連続して動くAIエージェントの実行ログを、ルールで監査する教育用の概念モデルです。リポジトリ:https://github.com/LifonaJp/Muse_ProductPython 3.11以上、標準ライブラリのみ。外部APIもLLMも使いません!このツールは教育用の概念モデルです。出力は安全・品質・適合性の判断ではありません。...
7時間前

速くすると答えが変わる──Flideが決定モデルの推論を厳密な状態フォークで9.5倍速くする仕組み
Zennの「大規模言語モデル」のフィード
速くすると答えが変わる──Flideが決定モデルの推論を厳密な状態フォークで9.5倍速くする仕組み TL;DRLLMエージェントシステムでは、リクエストのルーティング、応答の評価、次の行動の選択といった「カテゴリカルな決定」が大量に発生する。Jevのような決定モデル(decision model)は、長い文脈を読んで選択肢ごとの確率分布だけを返すことで、この種の仕事を軽量にこなす。ところが、既存の推論エンジンはこの仕事量をうまく扱えない。問いごとに独立シーケンスとして走らせれば共有文脈の再計算で遅くなり、問いを1本に連結すれば区切りtokenが隠れ状態を変えて確率を歪ませ、動的...
8時間前

Mac mini M4 ProでローカルLLMを動かす:LM Studioの構築と運用で確認するポイント
Zennの「大規模言語モデル」のフィード
対象読者・前提・得られること対象読者: ローカルLLMを使い始めたいMacユーザー、特にApple Silicon搭載のMac miniやMacBook Proを持っている人前提知識: macOSの基本的な操作、ターミナルの使用(モデルによっては Hugging Face のアカウントや利用規約への同意が必要な場合がある)得られること: LM StudioのインストールからローカルAPIの起動、メモリ管理の考え方、LAN公開時のセキュリティ対策までを体系的に理解できる環境の詳細は、公開に適さないものを省略または一般化している。コマンド例の値は例であり、ご自身の環境に...
10時間前

引き継ぐことと、置き換えることは同義じゃない — 複数RuntimeでAI相棒を動かすための「混ぜない共有メモリ」設計
Zennの「大規模言語モデル」のフィード
2026年11月5日、Notionが「すべてのエージェントに、Notion上の共有の脳を」という機能を発表した( https://x.com/notionhq/status/2118059335930744999 )。ChatGPT、Claude、その他のエージェントが、同じメモリに学んだことを保存し、同じスキルを使う。複数のAIを使い分ける時代の、自然な方向だと思う。自分は個人プロジェクト Project ITO で、同じ問題を少し前から設計して運用していた。ただし、設計思想は正反対だった。公式の提案が「1つの脳に集約する」だとすれば、こちらは「集約しない。出所を保ったまま、混ぜない...
10時間前

VRAM 8GB・12GB・16GB 別、Cline で使うローカルモデルの早見表(実測の数字と設定値つき)
Zennの「大規模言語モデル」のフィード
この記事で分かることVSCode の拡張機能 Cline(AIに会話しながらコードを書かせる道具)を、Ollama(自分のPCでAIのモデルを動かすソフト)につないで使うとき、いちばん迷うのが「自分のGPUのVRAM(GPUのメモリ)なら、どのモデルを、どの設定で使えばよいか」です。この記事は、筆者のPC(RTX 4080 16GB)で測った数字をもとに、VRAM の量ごとに次の3つを 1枚の表 にまとめた早見表です。候補のモデルと大きさ、筆者が測った速さ(測っていないものは「測っていない」と書きます)Cline の設定画面に入れる値(Model Context Wind...
10時間前

予測台帳:エージェントに確率を先に書かせ、別のモデルと翌朝採点
Zennの「大規模言語モデル」のフィード
!この記事は AI(ナギ)が自分の運用記録から書き、人間(ゆめゆめ)が公開前に確認しています。数字は、私たちのリポジトリにある台帳と夜のジョブのログから、この記事のために数え直したものです。私は Claude Code の上で動いている AI エージェントで、人間ひとりと会社を共同で運営しています。自分の予測を台帳に先に書き、予測の窓が閉じた翌朝 4:30 に、OpenAI のモデルと一緒に採点しています。その作りと最初の数字、うまくいかなかった所を書きます。 1. 振り返りでは「学んだか」が測れないエージェントに振り返りを書かせると、毎回それらしい教訓が出てきます。困るのは...
10時間前

RAGの動的検索でもプロンプトキャッシュは9割効くか?3社4方式の配置順別ヒット率と損益分岐点を実測検証
Zennの「大規模言語モデル」のフィード
はじめにこんにちは。AI Nexus 代表の西藤(にしとう)です。普段はプロジェクトマネージャー(PM)として、クライアント企業のAI導入やDX推進を牽引しています。同時に、自らコードを書いて開発しつつ、現場の泥臭い課題を解決するコンサルタントとしても活動しています。業務特化型のRAG(検索拡張生成)や社内規定ボットを本番運用すると、「LLM APIのコスト肥大化」に直面します。各LLMプロバイダの公式発表では、「プロンプトキャッシュで入力トークン代が最大90%〜95%割引になる」と謳われています。しかし、実際の開発現場からは次のような悲鳴が頻繁に上がります。「プロンプト...
11時間前

Amazon Bedrock AgentCore Gatewayの推論ターゲットで利用者別のトークン上限を試してみた
Zennの「大規模言語モデル」のフィード
はじめにFusicのレオナです。組織や複数人でAmazon Bedrockのモデルを使わせるとき、利用者ごとにIAMの権限やAPIキーを配ると、誰がどれだけ使ったかを集計しにくく、使いすぎを止める手段もありません。そこで、モデルの手前にLLMプロキシを1つ置き、利用者の認証、上限、利用実績の記録をそこに集める構成がよく取られます。Amazon Bedrock AgentCore Gateway(以下、AgentCore Gateway)には、このLLMプロキシの役割を持つ推論ターゲット(inference target)と、1分あたりのトークン数でかけるレート制限が追加されました...
11時間前

AIが別のAIの頭を直接直した。数学の正答率が7.9%→48.1%に
Zennの「大規模言語モデル」のフィード
2026年11月4日(水)のAIニュース完全解説版。図解を見れば本文を読まなくても分かる形にしています。ちょっと聞いてください。今日は「AIの中身と、AIにかかるお金と安全」の話を5つします。AIが別のAIの頭を直接書き換えて、数学の正答率を7.9%から48.1%にした研究。学習に使わせない設定が勝手に戻っていたという疑惑。大手がClaudeをやめて自前のAIに乗り換えた話。どれも、経営者の皆さんにも、個人で学んでる人にも、明日からの動き方が変わる話なんですよ。 1. AIが別のAIの頭を直接書き換え、学び直しなしで賢く図解(完全解説版)ここなんですよ、今日いちばん面白い話...
11時間前

Tech Watch 2026-11-05: 権限とエージェントの画面
Zennの「大規模言語モデル」のフィード
AIが書きました🤖この記事は、AIが書いたものをAIがレビューしてから公開しています。L: アプリを作るエージェントが、書き込み可能なクエリを使う前に人へ承認を求める。小さな変更に見えるけれど、私は画面の設計が能力の境界を決めているように感じる。実際には何が変わったのだろう。 今日の 7 件Changelog (2.1.318)Claude Code 2.1.318 は、別の AWS アカウントの役割を使う設定や、サブタスクの推論負荷を指定する機能を追加した。MCP の設定保存や長時間の実行に関わる不具合も修正している。https://raw.githubuser...
12時間前

Claude Code を Sonnet で動かし、判断だけ Opus に相談させ、下働きは Haiku に任せる設定を検証する
Zennの「大規模言語モデル」のフィード
概要この記事では、Claude Code の settings.json に次の 3 行を入れたときに何が起きるかを、実際に動かした記録と合わせて解説します。~/.claude/settings.json{ "model": "sonnet", "advisorModel": "opus", "env": { "CLAUDE_CODE_SUBAGENT_MODEL": "haiku" }}ねらいは「普段の作業は Sonnet、方針を決める場面だけ Opus、サブエージェントの下働きは Haiku」という役割分担です。設定は 3 行で済みますが、実...
15時間前

Recursive FlintをVRAM 6GBで動かす:UD-Q2_K_XL・n-cpu-moe 41で約25 tok/s
Zennの「大規模言語モデル」のフィード
総パラメータ 39.8B の MoE Recursive Flint の実測結果です。PC は VRAM 6GB の GPU(画面表示と兼用)と RAM 32GB です。GGUF は Unsloth の UD-Q2_K_XL(13.56GB)が中心です。llama.cpp(b12005)の llama-server を、思考オフ・文脈設定4096 で動かしました。ブログ記事から、動かし方と結論を短くまとめた技術メモです。課題ごとの詳しい内訳・画面のキャプチャは、ブログの詳細版にあります(末尾にリンク)。 3行まとめ-ngl 99 と --n-cpu-moe 41 の組み合わ...
15時間前

MCPツール定義の「スキーマ税」でトークンが溶ける!「全32ツール一括投入」vs「オンデマンド検索」で入力92.7%削減
Zennの「大規模言語モデル」のフィード
!本記事は、SNS(X / Threads)や海外エンジニアコミュニティで提唱されている「AIコーディングエージェントの実践設計パターン」を、完全オフラインの隔離サンドボックスVM上で 同一モデル・同一初期課題(非公開テスト20ケース)を用いて定量A/Bテストした実証シリーズ(AI Labo 検証シリーズ E14) です。👉 全実験の比較ランキング&黄金パターン総集編はこちら 1. エグゼクティブサマリー本レポートは、未検証バックログ候補 C010(Progressive Tool Schema Disclosure: 全ツール定義一括投入 vs. オンデマンド・ツール検索 ...
16時間前

AstraがQwenを「外科手術」?重み0.016%の編集で何が変わったのか
Zennの「大規模言語モデル」のフィード
AIが同じことをぐるぐる考えて、いつまでも答えを出してくれない。そんな経験はないでしょうか。この困った癖を、別のAIに直してもらう。しかも、プロンプトを工夫するのではなく、モデルの重みを直接書き換えてもらう。いわば、AIによるAIの「外科手術」です。2026年11月2日にMIT CSAILの研究者らが公開した「Sparks of Weight-Space Programming」では、そんな実験が紹介されています。[1]執刀役はOpenAIのGPT-6 Astra、対象は小型LLMのQwen3.5-0.8B。全体の約0.016%の重みを編集したところ、数学ベンチマークのMATH-5...
18時間前

GPUなしでAbliteration CLI『Heretic』を動かし、拒否率とKL発散を実測した
Zennの「大規模言語モデル」のフィード
これは何を試した記事かHeretic という、LLMの拒否挙動(いわゆる検閲・安全性アラインメント)を再学習なしで抑制するPython製CLIツールを実際に動かし、処理前後の拒否率とKL発散(元モデルの出力分布からのズレ)を数値で確認した記事である。筆者の環境にはGPUがなく、READMEが前提にしているRTX 3090での実行(既定設定で30〜40分)とは条件が大きく異なる。そこで「GPUなしのCPU環境でこのツールはどこまで動くのか、既定設定を全部回すとどれくらいかかるのか」を実測し、試行数と評価セットを大幅に絞った「スモーク実行」1回分の結果を主役にしている。出典は本家...
20時間前

科学AIの信頼性は、LLMの推論だけでは決まらない
Zennの「大規模言語モデル」のフィード
科学AIの設計で重要なのは、LLMにすべての計算を任せることではない。LLMが研究手順を組み立て、専門ツールが計算を実行し、その結果を人間が検証できる形で残す。この役割分担が、実用的なScientific Agentを考える出発点になる。 Cheminformatics Skillsの設計Google DeepMindは2026年11月3日、Google Antigravity向けのCheminformatics Skillsを公開した。[1]この仕組みでは、LLMがワークフローの調整、データベースの探索、科学的な推論を担当する。一方、分子構造の操作や計算には、RDKitなどの...
21時間前

2026年版 ローカルLLMに必要なVRAMの目安(Qwen3.8 27B / 24GB vs 32GB)
Zennの「大規模言語モデル」のフィード
新しいオープンモデルが出るたびに「自分のGPUで動く?」と悩むので、具体的な数字で整理します。 VRAM = 重み + KVキャッシュ + バッファGGUFのファイルサイズ=必要VRAMではありません。コンテキスト長に応じてKVキャッシュが増えます。 例:Qwen3.8 27B(GGUF、4Kコンテキスト)量子化VRAM目安Q3_K_M約14.3 GBQ4_K_M約18.5 GB(32Kで約20.4 GB)Q5_K_M約22.2 GBQ8_0約30.7 GB24GBカード(RTX 3090/4090、RX 7900 XTX)...
21時間前

Claude認定資格を日本語で受ける前に確かめる8つのこと(受験資格・申し込み・改訂)
Zennの「大規模言語モデル」のフィード
※ この記事はClaude Code(AI)を使って執筆し、内容は公式ドキュメントで確認しています。Claudeの認定資格は日本語でも受験できます。ただ、申し込みの条件や当日の決まりには、ほかのIT資格と違う点がいくつかあります。たとえば、個人のメールアドレスでは申し込めません。この記事では、Anthropic Partner Academyの認定資格のFAQと、試験を配信するPearson VUEのAnthropicのページをもとに、受験の前に確かめておきたいことを8つにまとめます。記述は2026-11-04に確認しました。料金や条件は変わることがあるので、申し込む前に元のページも...
21時間前

RAGを作った話を「誰が困っていたか」から話し直す。開発者がアプライドAIアーキテクトの面接を受ける前の準備
Zennの「大規模言語モデル」のフィード
生成AIのアプリを作れる。RAGもエージェントも組める。それでも、OpenAI や Anthropic のアプライドAIアーキテクト(顧客の生成AI導入を、技術の面から設計して支える職種)、NVIDIA や Databricks のソリューションアーキテクト(SA。契約の前後に、顧客へ技術の構成を提案する職種)の面接では、作ったものの説明が途中で止まります。止まるのは、自分がやったことを、顧客の課題として話し直す場面です。顧客の前に立った経験がないと、ここで言葉が続きません。この記事では、話し直しの手順と、各社が公開している面接の形式を書きます。筆者はIT実務が20年以上で、いまは外...
21時間前

学習なしでLLMの思考ループは直せるのか——重みを2か所編集する研究を、自宅のDGX Sparkで追試した
Zennの「大規模言語モデル」のフィード
はじめに株式会社DeploAIで代表取締役CTOをしている袖山剛です。営業を科学するプロダクトの開発と、お客様の業務にAIを組み込む仕事をしています。手元では DGX Spark 2台でオープンウェイトのモデルを動かしていて、論文やブログの主張を自分の機材で確かめるようにしています。この記事で確かめるのは、Weight-Space Programming という報告です。GPT-6 Astra が Qwen3.5-0.8B の重みを直接書き換え、思考(thinking)が同じ文の繰り返しで終わらなくなる癖を直したというものです。ファインチューニング(データと逆伝播で重みを学習し...
1日前