2025年9月14日日曜日

「非決定モード → 決定モード」に切り替える例

›
  前提 Python + PyTorch 環境がある（GPU 使用可能、CUDA 有効）。 thinking-machines-lab/batch_invariant_ops ライブラリをインストール済みであること。 GitHub モデルが FlashAtt...

論文／ブログ「Defeating Nondeterminism in LLM Inference」の技術的なポイント

›
  LLM 推論における非決定性を克服する Thinking Machines Lab（以下 TML）が論じる「非決定性（nondeterminism）」は、ただの「GPUの並列＋浮動小数点誤差」の話を越えており、「バッチ不変性（batch invariance）」という概念...

元OpenAIの研究者ら、AIの応答が毎回違う理由をついに解明

›
  はじめに：揺らぐAI応答――その“謎”が明らかに 元OpenAIの幹部も参加するスタートアップ Thinking Machines Lab が、「AIが同じ入力でも毎回少し異なる応答を返す」――この長年の謎の“根っこ”を突き止めた。通説だったGPU並列処理ではなく、「バッ...
2025年9月13日土曜日

Apache Solr を利用して キーワード検索や自然言語検索Tips

›
  ✅ 心得（やるべきこと） 1. スキーマ設計 テキストフィールドは用途別に分ける タイトル、本文、タグ、メタ情報などは別フィールドにして検索・ブーストを調整可能にする。 トークナイザー/アナライザーの適切な選択 英語： StandardTokenizer...

How to Install Windows 11 on an Unsupported PC (Step-by-Step Guide)

›
  Thinking about upgrading to Windows 11 but your PC doesn’t meet Microsoft’s official requirements? You’re not alone — and yes, it is stil...