セレンス ついに来た！車載向け組込み型小規模言語モデルの「CaLLM Edge」を発表

自動車業界向けにAI/自然会話技術を提供するセレンスは2024年11月、車載グレードの先進的な組込み型小規模言語モデル（SLM）である「CaLLM Edge」を発表した。

セレンスの既存ソリューションを利用できるこの新しいSLMは、次世代AIアシスタント・プラットフォームに搭載され、ネット接続の有無にかかわらずインテリジェントでシームレスな車内でのパーソナルアシスタント・システムを構築できる。

この「CaLLM Edge」は、マイクロソフトとの協業により開発、最適化されており、どの自動車メーカーでも採用可能になっている。

CaLLM（Cerence Automotive Large Language Model） Edgeは、セレンスの豊富な自動車データ群を利用してマイクロソフトのSLM であるPhi-3ファミリーをファインチューニング（機械学習上の微調整）したもので、自動車の多種多様な利用状況に対応できる専門性の高いAIを提供することができる。

38億のパラメーター、4kのコンテキストサイズ、4ビットの量子化を有するこのモデルは、自動車のインフォテイメントのヘッドユニットに問題なく組込むことができる。

また、温度、窓、ドア、座席位置などに関する暗示的/明示的な音声による操作コマンド、地図上の特定の場所（POI）の検索とナビゲーションや会話形式のインタラクションといった機能を備えている。 例えば 「ハリウッド映画で最も人気のある作品は何？」という質問の後に「そのあらすじを教えて」と続けた質問にも応対可能となっている。

主要な自動車メーカーのプラットフォームとの互換性があるCaLLM Edgeは、組込み型専用（ネット接続がなくても単独で機能）と、ハイブリッド型またはクラウド優先型（SLMが質問への回答方法の一つとなり、接続が切れた場合はバックアップとして機能）の両方で利用できることが特長だ。

そのため、クラウドに接続されしていない場合でもユーザーが生成AIによる主要機能や情報に常時アクセスできるとともに、データがクラウドに送信されずに車内にとどまるためデータのプライバシー保護が強化される。

CaLLM Edgeによって、車載アシスタント機能が向上するだけでなく、完全組込み型のSLMモデルを活用することでコスト効率も向上するため、自動車メーカーは、ドライバーに生成AIベースのユーザーエクスペリエンスが提供でき、同時にコストも低減することができるのだ。

セレンス 関連記事
セレンス 公式サイト

The post セレンス　ついに来た！車載向け組込み型小規模言語モデルの「CaLLM Edge」を発表 first appeared on オートプルーブ - Auto Prove.