MediaTek は大規模モデルのモバイル チップ向けに Alibaba Cloud と提携

ソース：www.ihunt.com

Sci-Tech Innovation Board Daily によると、スマートフォン チップ メーカーである MediaTek は、Dimensity 9300 などの主力チップに 18 億および 40 億のパラメータを持つ大型モデルを展開することに成功し、モバイル チップ上で大型モデルの高度な適応を達成し、これにより、Tongyi Qianwen はオフラインの状況でも AI 対話を複数回実行できるようになります。将来的には、両社は、Dimensity チップに基づいて、70 億のパラメータを持つモデルを含む、さまざまなサイズのより大規模なモデルも適応させる予定です。

Alibaba Cloudは、MediaTekと緊密に連携して、エンドサイドの大規模モデルソリューションを世界の携帯電話メーカーに提供すると述べた。

現在、MediaTek はスマートフォン用チップの出荷量が世界で最も多い半導体企業です。 Canalysの最新データによると、2023年第4四半期には1億1,700万台以上を出荷し第1位となり、次いでAppleが7,800万台、Qualcommが6,900万台となった。 Tongyi Qianwen は、Alibaba Cloud によって開発された基本的な大規模モデルです。これまでに、最大 1,000 億のパラメータを備えたバージョンと、720 億、140 億、70 億、40 億、18 億、5 億のパラメータを備えたオープンソース バージョン、さらには次のようなマルチモーダルな大規模モデルをリリースしました。視覚理解モデルQwen-VLと音声大型モデルQwen-Audio。

MWC2024 中に MediaTek は、Dimensity 9300 および 8300 チップを含むさまざまな人工知能アプリケーションを展示しました。 Dimensity 9300チップはすでに海外でMeta Llama 2の70億パラメータの大規模モデルのアプリケーションをサポートしており、中国では70億パラメータの大規模言語モデルを備えたvivo X100シリーズ携帯電話に実装されていることがわかります。エンドサイドの実験環境で 130 億パラメータのモデルを実行することにも成功しました。

MediaTek と Alibaba Cloud のコラボレーションは、Tongyi 大型モデルがチップレベルのハードウェアとソフトウェアの適応を達成した初めてのことです。アリババのTongyi Labのビジネス責任者であるXu Dong氏は、「エンドサイドAIは大規模モデルの適用における重要なシナリオの1つであるが、ハードウェアとソフトウェアの適応の難しさや不完全な開発環境など、多くの課題に直面している。アリババ」と説明した。 Cloud と MediaTek は、基盤となる適応と上位レベルの開発に関連する一連の技術的およびエンジニアリング上の課題を克服し、大規模なモデルをモバイル チップに真に統合し、エンドサイド向けのモデルオンチップの新しい導入モデルを模索しました。アイ。」

MediaTek に加えて、Qualcomm もモバイルデバイスへの大規模モデルの実装を積極的に推進しています。 3 月 18 日、クアルコムは、第 3 世代の Snapdragon 8s モバイル プラットフォームの発売を発表しました。このプラットフォームは、最大 100 億のパラメーターを持つ大規模な言語モデルをサポートし、Baichuan-7B、Gemini Nano、Llama 2 などのマルチモーダル生成 AI モデルもサポートできます。 、Baidu Xiriver、Google、META などの企業の Zhipu ChatGLM です。 Xiaomi Civi 4 Proは、Snapdragon 8sモバイルプラットフォームを初めて搭載すると報告されています。

家電業界のアナリストは、アリババクラウドとメディアテックの提携は、国内の携帯電話メーカーが百度に代わる選択肢を手に入れたことを意味すると述べた。

記者の理解によると、HonorとSamsungは以前、Baidu Wenxin Yiyanとの提携を発表した。たとえば、Samsung の最新の主力携帯電話である Galaxy S24 シリーズには、通話、翻訳、スマート要約など、Wenxin 大型モデルの複数の機能が統合されています。さらに、ある関係者は、アップルが百度の人工知能技術の利用を希望して現在百度に連絡を取っており、すでに両者の間で予備交渉が行われていると明らかにした。

上海人工知能研究所の主力科学者であるリン・ダーファ氏は、クラウドベースの大規模モデルの急激な成長により、エンドサイドはまさに黄金の成長期に入ろうとしていると述べた。クラウドエンドのコラボレーションは将来的に重要なトレンドとなり、クラウドサイドのコンピューティングが上限を確立し、エンドサイドのコンピューティングが大規模なユーザー導入をサポートします。

コンサルティング会社IDCの予測によると、中国市場のスマートフォン出荷台数は2024年に2億7,700万台に達し、前年比成長率は2.3％となる。このうちAIフォンの出荷台数は3,660万台に達し、前年比成長率は3桁を超える見込みだ。携帯電話における大規模な AI モデルの適用はさらに普及するでしょう。