AI導入を加速させる技術支援体制

生成AIの企業利用が拡大する中、自社管理環境でのAI活用ニーズが高まっています。しかし、新たなAIハードウェア導入には製品選定から動作検証、性能最適化、インフラ構築まで多岐にわたる専門知識が求められます。マクニカのAIインフラ構築・製品評価支援と、フィックスターズのパフォーマンスエンジニアリング技術を組み合わせることで、企業が用途や要件に適したAI基盤を定量的に判断し、導入できる環境を提供します。

共同PoCによる推論性能の向上

両社は連携の実効性を検証するため、TenstorrentのAIワークステーション「TT-QuietBox」上で、OpenAIの大規模言語モデル「gpt-oss-120b」の推論性能を解析・最適化する共同PoCを実施しました。主な成果は以下の通りです。

・MoE（Mixture of Experts）のexpert行列積：3.68倍高速化
・TPOT（1トークンあたりの生成時間）：31.3%短縮
・1ユーザーあたりのデコード速度：45.7%向上
・リクエスト全体の平均応答時間（E2EL）：23.0%短縮

※詳細な評価条件、解析手法、最適化内容および測定結果は、フィックスターズが公開する技術レポートで確認可能です。

支援内容と今後の展開

本連携では、顧客が利用を希望するAIモデルやアプリケーションを実機上で評価し、処理ボトルネックの特定やソフトウェア実装の改善を行うことで、AIハードウェアの性能を最大限に引き出します。今後両社は、gpt-oss-120b以外の多様なAIモデルやワークロードに対しても支援を展開し、企業のAI活用推進に貢献していきます。

関連リンク

https://www.fixstars.com/ja/whitepaper/tenstorrent

https://www.macnica.co.jp/business/semiconductor/manufacturers/tenstorrent/