しかし、Shen Ji が直面した状況は非常に困難でした。 Baidu は中国最大のクラウド コンピューティング ベンダーではありませんが、AI 関連サービスのパブリック クラウドでは第 1 位にランクされています。当時、Shen Dou は AI を活用してクラウド サービス全体の成長を促進したいとも考えていましたが、残念ながら当時の AI の機能はあまりにも「細分化」されており、サービスコストが高い現状を脱することができませんでした。規模拡大が難しく、利益も乏しい。
しかし数か月後、大型モデルの時代が到来しました。競争環境の観点から見ると、これまでのIaaS（Infra Structure as a Service）やPaaS（Platform as a Service）をベースとした基本的なクラウドサービスは、AIをベースとしたMaaS（Model as a Service）クラウドサービスへ移行しつつあります。 Shen Dou 氏は、これが Baidu Smart Cloud が「カーブで追い越す」チャンスだと考えています。
**Q: コンテンツ会社として、私たちも特に大きなモデルを使って記事を制作したいと考えています。 To Bの大型モデルサービスプラットフォーム「Qianfan」を立ち上げたばかりですが、「Qianfan」を立ち上げた背景は何ですか？プログラマーがゼロの企業が大規模なモデルを展開できるよう支援するにはどうすればよいでしょうか? **
**Q: あなたと OpenAI は異なる道を歩んでいるように思えます。 OpenAI は最初に C エンド製品 ChatGPT をリリースし、その後徐々に B エンド製品をリリースしました。一方、Baidu は C エンドと B エンドの両方を並行して進めています。なぜこのような違いがあるのでしょうか? **
**Shen Ji:**テクノロジーには受け入れられるかどうかという問題があり、より多くのユーザーが実際にそれを使用し、その価値を見つける必要があります。モックアップについて誰もが話題にしていますが、実際にモックアップを使用したことがある人はどれくらいいるでしょうか? B エンド企業の顧客は、生産パラダイム全体に対する大規模モデルの潜在的な影響をより認識しており、大規模モデルをさらに活用する必要があります。
しかし、パブリック クラウド API を使用したり、独自の環境を構築して体験したり試したりするわけではない場合、そこでは単なる想像にすぎません。したがって、Qianfan を作成し、最初に大型モデルを使用させる必要があります。実際、大型モデルのフルオープンに関しては、C側も長い間待っていましたし、B側も長い間待っていました。ただB面のほうが商品化に近いというだけです。
**Q: Wen Xinyiyan がリリースされてから、Qianfan プラットフォームの B 面の需要はどのくらい高まりましたか? **
ただし、データの増加という点では、B サイドはまだ C サイドほど良くありません。今日、誰かが B 側で「Wen Xin Yi Yan」を使用したいと考えているとします。API を呼び出す代わりに、C 側に移動して最初にそれを体験したほうがよいでしょう。この経験が良いと思ったら、それを利用するために銭樊に来ます。 B 面にそれを使用してもらうには、育成プロセスが必要です。
**Q: C サイドと B サイドが連携している場合、優先順位はどのように設定しますか?主にC面に重点を置きますか、それともB面に重点を置きますか? **
Shen Shake: 優先順位は、リソースの競合がある場合にのみ設定する必要があります。大型モデルの特徴は、その底部に普遍的な非常に厚い層があることです。そのため、To B であろうと To C であろうと、その上でアプリケーションを見つけることが、Baidu が手を携えてやりたいことです。リソースの競合が発生するまでには至っていません。
C 側では、Baidu は大規模モデルに実装できる製品形態とビジネス モデルを積極的に研究しています。 Baidu は大規模なモデルに基づいて C エンド製品を再構築する必要がありますが、たとえば、Baidu 自身の製品データから判断すると、Baidu Netdisk、Baidu Library などの製品は、大規模なモデルに基づいて再構築した後、ユーザーの定着率と会員の支払い率が非常に高くなっています。改善: 新たに構築された Wenxin Yiyan APP と再構築された Baidu 検索も、大規模モデル アプリケーションの新しい入り口になりました。 B 側では、Baidu Smart Cloud は最高の大規模モデル プラットフォームを作成することで To B 市場に適切にサービスを提供します。
私たちは二本足で歩きます。もちろん、Baidu は大ヒットの To C 製品を作成したいと考えていますが、基盤となる大規模なモデルとコンピューティング能力を通じて、より多くの企業や開発者が優れた To C アプリケーションを作成できるようサポートすることにも積極的に取り組んでいます。実際、上で誰が成功しても、それは根底にある大きなモデルの成功です。
**Q: Red Hat と IBM (注: 2018 年に IBM は世界最大のオープンソース企業である Red Hat の買収を発表) のような関係を持つことは可能ですか? IBM のような不本意な金持ちビジネス オーナーがオープンソースをサポートするつもりだと仮定しますか?このようにして、オープンソースは財政的およびデータ的なサポートを受けることになります。 **
初期の CPU クラウドがもたらした価値は、顧客が自分のマシンを購入してカードを 1 つずつバンドルする必要がなくなり、パッケージ化がますます良くなり、その上で直接使用できることです。大型モデルの時代の到来に伴い、「AI加速チップ」GPUが徐々にコンピューティングパワーの中心となり、コンピューティングパワーの成長率はCPUの成長率をはるかに上回っています。これにより、CPU クラウドから GPU クラウドへの切り替えが加速します。
GPU クラウドの時代には、最終的にはクラウドの機能をさらにカプセル化し、最下層の露出を防ぎ、より高度なインタラクティブな形式を形成し、大規模モデルの API に直接接続することになります。現在のクラウドはまだエンジニア向けに開発されており、対話形式が徹底されていませんが、将来的には下位のエンジニアが減り、上層部に行く人が増えるでしょう。これは劇的な変化です。
**しかし、従来の AI は非常に細分化されていました。問題に対する機能を生成してから、この問題を解決する必要がありますが、汎用性に乏しいです。結果として、スケールアップが難しく、粗利益も低いプロジェクト制となっています。 **
生成 AI が登場してからは、非常に汎用性が高く、一度に多くの問題を解決できることがわかり、アプリケーション層以下は基本的に統一されており、微調整やプラグインが必要な場合でも、標準化されたアクションであることがわかりました。これは、これまでの非常に細分化された AI アプリケーションとはまったく異なります。これ自体がクラウドビジネスにおける大きな変化であり、いわゆるIaaSがMaaSになった。
**Q: 以前、中国の AI 企業はプロジェクトを獲得する必要がありましたが、それは非常に困難でした。現在のように標準化された製品では問題を解決できません。 **
Shen Dou: その時、私たちはロビン (注: 百度の創設者、会長兼 CEO のロビン・リー) とクラウド戦略について話し合いました。彼はまた、標準化と拡張を求めました、そうしないと百度を技術として反映できなくなります。会社の価値。
Baidu Intelligent Cloud 社長 Shen Dou 氏との対話: 現在市場には大型モデルが多数ありますが、そのほとんどはすぐに消えてしまいます。
「Wen Xin Yi Yan」がリリースされてから 24 時間後、Shen Dou 氏はバックエンドにアクセスしてデータを調べ、Wen Xin Yi Yan がユーザーからの「3,342 万件」の質問に回答していることを発見しました。この数は彼の予想を上回っていました。
2日後、Shen Douが私を含む数人のメディア関係者とこの事件について話し合ったとき、彼は次のように述べました。減ってないよ。」
中国のビッグモデルブームが半年続いた9月、ようやく一般人も始めるチャンスが訪れた。
8月31日より、「Wen Xin Yi Yan」を含む多数の大型モデルが登録され、正式に公開されました。このニュースはユーザーを試してみたいと興奮させただけでなく、企業からも熱狂的な反応を引き起こしました。 ** Shen Dou 氏は、Wenxinyiyan がオープンした日、Baidu Smart Cloud Qianfan 大型モデル プラットフォーム上で毎日アクティブな企業の数が 40% 以上増加したと述べました。 ——後者は百度が企業向けに立ち上げた大規模モデル開発・管理プラットフォームです。 **
大規模モデルの時代において、Baidu は個人と企業が同じタイムラインで大規模モデルの使用を促進したいと考えています。マクロ的には大型モデルの先端技術の普及につながる。企業の観点から見ると、これは Baidu が独自のビジネスを行うのに役立ちます。 C エンド ユーザーの商業的価値はすぐにはわかりませんが、B エンドの顧客の商業的価値は、モデル API のスケジューリング料金とクラウド コンピューティングの収益に直接反映されます。
昨年5月、百度モバイルエコシステム（MEG）を長年担当してきた沈斗氏は、百度スマートクラウドビジネスグループ（ACG）社長という要職を任された。同グループが彼に期待しているのは、AIGC時代の機会を捉えて、インテリジェントクラウドを百度の第二の成長曲線に乗せることだ。
しかし、Shen Ji が直面した状況は非常に困難でした。 Baidu は中国最大のクラウド コンピューティング ベンダーではありませんが、AI 関連サービスのパブリック クラウドでは第 1 位にランクされています。当時、Shen Dou は AI を活用してクラウド サービス全体の成長を促進したいとも考えていましたが、残念ながら当時の AI の機能はあまりにも「細分化」されており、サービスコストが高い現状を脱することができませんでした。規模拡大が難しく、利益も乏しい。
しかし数か月後、大型モデルの時代が到来しました。競争環境の観点から見ると、これまでのIaaS（Infra Structure as a Service）やPaaS（Platform as a Service）をベースとした基本的なクラウドサービスは、AIをベースとしたMaaS（Model as a Service）クラウドサービスへ移行しつつあります。 Shen Dou 氏は、これが Baidu Smart Cloud が「カーブで追い越す」チャンスだと考えています。
収益の観点から見ると、大規模モデルの汎用機能によりクラウド サービスをより標準化できるため、さまざまなシナリオで大規模に再利用できるため、サービス コストが削減され、利益が増加します。百度の経営陣が2023年第2四半期の決算会見で投資家に対し、AIと大型モデルによって百度スマートクラウドはより高い利益率を達成できると語った理由はここにある。
**以下は、Geek Park が主催した Shen Dou との会話の全文です。 **
01 C サイドに Wenxin Yiyan、B サイドに Qianfan プラットフォーム、2 面で成功したもの
**Q: 盛り上がりを見た後は、いよいよ実践です。 2 日前、Baidu は C サイドに Wenxin Yiyan をオープンしましたが、このユーザー使用状況データについてどう思いますか?予想通りか予想外か？バックグラウンドの運用保守能力はどうなっているのでしょうか？ **
Shen Dou: その夜の 12:30 にデータをグループに送信し、翌日同僚がデータを公開しました。データは私によってシステムから傍受され、そのままの状態で外部に提示されました。これは全くの真実です。
もともと「盛り上がりを見てる人」が少ないと思っていたので、そこまで期待はしていませんでした。予想外にも、その日は3,342万件の回答があり、ユーザーが温信宜燕氏に高い期待を寄せていることが分かりました。誰もが、一つや二つ質問をして帰っていくのではなく、何度も対話を重ねました。この観点から見ると、ユーザーの熱意は依然として存在します。
Wenxin Yiyan が 3 月 16 日に社内テストを開始してから 5 ～ 6 か月が経過しました。効果の向上とコスト削減の両方の点で、十分な準備期間が得られました。たとえば、Wenxin 大型モデルの推論速度はオリジナルと比べて 30 倍以上向上しており、これにより推論コストが大幅に削減され、これほど多くのユーザーを扱うことが可能になりました。
**Q: この期間における百度の大型モデルの技術的進歩には、コストの進歩も含まれているということでしょうか？ **
**Shen Dou:**はい、大規模モデル自体はリソースを大量に消費する技術パラダイムです。
当初はこれほどのトラフィックが発生するとは予想していませんでしたし、マシン（計算能力）リソース自体が非常に貴重なので、あまり多くのマシンを置くのはもったいないと思い、あまり余分なマシンは配置しませんでした。 。その後、ユーザー数が増加した後、幸いにも推論性能が向上したため、現在も安定したサービスをユーザーに提供しています。
また、コンピューティング能力も十分に蓄えており、ユーザーのニーズに問題なく応えるためにトレーニングと推論のコストを引き続き削減していきます。当時、トラフィックに耐えられるかどうかを社内グループで議論していました。車の往来を激しくすることが幸福のすべての悩みであると私は言いました。
**Q: C サイドにおける温信宜燕の自由化は、百度にとってどのようなメリットがありますか? **
Shen Ji: あなたが心配しているのは、Cサイドへの開放が商業的価値をもたらさないのか、それが持続可能な問題なのか、ということかもしれません。
実際、真にユーザーにとっての価値が生み出されるのであれば、商品化は時間の問題です。技術開発の歴史の中で、価値はあるが実現が難しい例はほとんどありません。 Wen Xinyiyan は確かに C エンド ユーザーに真の価値をもたらしましたが、昨日、Wen Xinyiyan がいないとオフィスの効率が低下するというコメントをいくつか目にしました。したがって、価値がある限り、将来の文心宜燕の商品化は自然に起こるでしょう。
**Q: 中国の大型モデルの C エンド製品形式は ChatGPT と一致しますか?購読料ですか？ **
Shen Dou: 大型モデルの製品形態について話すのは時期尚早であり、その定義はまだそれほど明確ではありません。
モバイル インターネットが始まったとき、SoLoMo (ソーシャル、ローカル、モバイル、ソーシャル メディア、位置情報サービス、モバイル端末デバイスを使用してより良いユーザー エクスペリエンスを提供する) など、いくつかのキーワードを使用してその定義を明確にすることができました。しかし現時点では、大きなモデルをいくつかの明確な言葉で定義することはできません。その機能はより強力ですが、その境界もより広く、製品の形に収束する時期はまだ遠いです。
OpenAI はテクノロジー主導の企業であり、ユーザー エクスペリエンスは実際のところ同社の強みではありません。現在設計されている製品の形状はまだ初期段階にあり、今後は製品の反復速度が非常に速くなり、形状が大幅に変化するでしょう。
**Q: C エンド ユーザーからサブスクリプション料金を請求する ChatGPT のビジネス モデルは中国でも実現可能ですか? **
Shen Dou: 私たちは、広告、電子商取引、ゲームの 3 つの一般的な収益化方法など、新しい収益化方法を進化させる可能性があります。
アシスタントを雇うのに月に 2,000 元を費やすつもりがある場合、AI がアシスタントができることの 10 分の 1 (旅行の旅程の作成、航空券やホテルの予約、タクシー配車の手配など) を行うことができれば、食べ物配達アプリもいかがですか? 200 元出してもよろしいですか?ただ、実現方法は必ずしも会費ではなく、取引手数料やその他の方法でも構いません。
別の例として、ゲーム内の多数の NPC キャラクターは生成 AI によって駆動されており、電子商取引分野の「デジタル ヒューマン」のライブ ブロードキャストも生成 AI によってサポートされており、異なる収益化方法につながる可能性があります。最終的にはCエンドの製品形態がその実現方法を決定します。
**Q: C エンド製品が最終的に生産性ツールである場合、企業が個人ではなく個人に料金を支払う可能性はありますか? **
**Shen Ji:**それは可能です。たとえば、Baidu Netdisk は効率化ツールと考えることもでき、多くの企業が従業員が使用できるように Netdisk アカウントを購入するでしょう。また、企業に連絡し、各従業員にプログラムを作成するための Copilot アカウントを割り当てました。これらはすべて企業が個人にお金を払っているケースです。
**Q: コンテンツ会社として、私たちも特に大きなモデルを使って記事を制作したいと考えています。 To Bの大型モデルサービスプラットフォーム「Qianfan」を立ち上げたばかりですが、「Qianfan」を立ち上げた背景は何ですか？プログラマーがゼロの企業が大規模なモデルを展開できるよう支援するにはどうすればよいでしょうか? **
**Shen Dou:**これはとても良い質問です。実際、それが私たちが Qianfan プラットフォームを構築した理由です。
今回B面に上陸する大型モデルの特徴は、大企業が先行し、顧客には金融機関、エネルギー機関、教育機関などが多いことだ。それらの明らかな特徴は、民営化された展開が必要であることですが、このしきい値は非常に高く、モデルを反復するには多数の技術担当者を訓練する必要があるため、大規模なモデルが有効になるまでの時間が遅くなる可能性があります。
それどころか、多くの中小企業と同様に、(プラットフォームベースの) SaaS 製品やパブリック クラウドを拒否しない可能性が高くなります。 Qianfanプラットフォームはそのような製品です。企業は、API を直接呼び出したり、サンプルをトレーニングして微調整したり、ほぼゼロのコードで独自のモデルを作成したりできます。 **Qianfan の目的は、大型モデルの導入の敷居を下げ、大型モデルの幅広い適用を促進することです。 **
**Q: あなたと OpenAI は異なる道を歩んでいるように思えます。 OpenAI は最初に C エンド製品 ChatGPT をリリースし、その後徐々に B エンド製品をリリースしました。一方、Baidu は C エンドと B エンドの両方を並行して進めています。なぜこのような違いがあるのでしょうか? **
**Shen Ji:**テクノロジーには受け入れられるかどうかという問題があり、より多くのユーザーが実際にそれを使用し、その価値を見つける必要があります。モックアップについて誰もが話題にしていますが、実際にモックアップを使用したことがある人はどれくらいいるでしょうか? B エンド企業の顧客は、生産パラダイム全体に対する大規模モデルの潜在的な影響をより認識しており、大規模モデルをさらに活用する必要があります。
しかし、パブリック クラウド API を使用したり、独自の環境を構築して体験したり試したりするわけではない場合、そこでは単なる想像にすぎません。したがって、Qianfan を作成し、最初に大型モデルを使用させる必要があります。実際、大型モデルのフルオープンに関しては、C側も長い間待っていましたし、B側も長い間待っていました。ただB面のほうが商品化に近いというだけです。
**Q: Wen Xinyiyan がリリースされてから、Qianfan プラットフォームの B 面の需要はどのくらい高まりましたか? **
Shen Ji: Wenxin Yiyan がオープンした日、Baidu Smart Cloud Qianfan 大規模モデル プラットフォーム上の毎日アクティブな企業の数は 40% 以上増加しました。
緩和により、C 側のデータが増加するだけでなく、B 側のデータも増加します。これにより、B サイド企業がコストを削減し、イテレーションを高速化できるからです (注: 国内モデルを使用する方が安くて便利です)。
ただし、データの増加という点では、B サイドはまだ C サイドほど良くありません。今日、誰かが B 側で「Wen Xin Yi Yan」を使用したいと考えているとします。API を呼び出す代わりに、C 側に移動して最初にそれを体験したほうがよいでしょう。この経験が良いと思ったら、それを利用するために銭樊に来ます。 B 面にそれを使用してもらうには、育成プロセスが必要です。
**Q: C サイドと B サイドが連携している場合、優先順位はどのように設定しますか?主にC面に重点を置きますか、それともB面に重点を置きますか? **
Shen Shake: 優先順位は、リソースの競合がある場合にのみ設定する必要があります。大型モデルの特徴は、その底部に普遍的な非常に厚い層があることです。そのため、To B であろうと To C であろうと、その上でアプリケーションを見つけることが、Baidu が手を携えてやりたいことです。リソースの競合が発生するまでには至っていません。
C 側では、Baidu は大規模モデルに実装できる製品形態とビジネス モデルを積極的に研究しています。 Baidu は大規模なモデルに基づいて C エンド製品を再構築する必要がありますが、たとえば、Baidu 自身の製品データから判断すると、Baidu Netdisk、Baidu Library などの製品は、大規模なモデルに基づいて再構築した後、ユーザーの定着率と会員の支払い率が非常に高くなっています。改善: 新たに構築された Wenxin Yiyan APP と再構築された Baidu 検索も、大規模モデル アプリケーションの新しい入り口になりました。 B 側では、Baidu Smart Cloud は最高の大規模モデル プラットフォームを作成することで To B 市場に適切にサービスを提供します。
**Q: 実際、最も普遍的な基盤はクラウド コンピューティングであり、社内顧客にサービスを提供するか、社外顧客にサービスを提供するかに関係なく、それが企業の成功につながります。 **
Shen Dou: はい、社内顧客に適切にサービスを提供すれば、外部顧客にも適切にサービスを提供できます。外部顧客に適切にサービスを提供すれば、内部顧客にも適切にサービスを提供できます。これが MaaS の利点です。そうしないと、外部技術スタックと内部技術スタックが完全に 2 セットであると仮定すると、コストが高くなりすぎます。
私たちは二本足で歩きます。もちろん、Baidu は大ヒットの To C 製品を作成したいと考えていますが、基盤となる大規模なモデルとコンピューティング能力を通じて、より多くの企業や開発者が優れた To C アプリケーションを作成できるようサポートすることにも積極的に取り組んでいます。実際、上で誰が成功しても、それは根底にある大きなモデルの成功です。
02 大規模モデルが残酷な淘汰競争を開始し、オープンソース モデルの将来が懸念されています
**Q: Wen Xinyiyan に加えて、Qianfan プラットフォームは他のモデルも発売しました。 Qianfan と Hugging Face のようなモデル集約プラットフォームの違いは何ですか? **
Shen Dou: 現在または長期にわたって、企業は、モデルのシーン適応性によるものなのか、顧客の心理的ニーズによるものなのかにかかわらず、さまざまなモデルを試したいと考えています。この観点からは、サードパーティモデルの提供も必要です。
しかし、すべてのモデルが試してみる価値があるわけではなく、それはリソースの多大な無駄になります。したがって、Qianfanには独自の審査原則があり、私たちが出品するモデルは比較的優れており、使いやすいです。
**Q: つまり、Hugging Face はコミュニティとして、Qianfan はプラットフォームとして位置付けられているのでしょうか？ **
シェンドゥ: そうです。 Qianfan はモデル選択の問題を解決するだけでなく、モデルを実際に使用する際の問題も解決します。利用にはデータ、トレーニング、チューニング、エンジニアリング、アプリケーション構築といった一連の課題も含まれており、コストや効率性も十分に考慮されています。 Qianfan はワンストップサービスを提供します。これが Qianfan と Hugging Face の違いです。
Hugging Face モデルには十分な幅があり、Qianfan はクラウド ベンダーの自然な利点を利用して十分な広さの動作スペースを確保し、エンドツーエンドのトレーニングと推論パフォーマンスの最適化も実現できます。たとえば、トレーニング プロセス中の高速化、迅速な障害検知、位置特定、および回復、推論プロセス中の百度の巨大な異種コンピューティング クラスターのスケーラビリティに基づいて、リソースの弾力性が非常に優れており、サーバーレス サービスも提供できるため、顧客は次のことを行うことができます。低コストのサービスが得られ、インフラストラクチャのコストがかからず、運用とメンテナンスは不要で、高い拡張性の利点があります。これは、Qianfanがハグフェイスよりもさらに深くなる場所です。
**Q: オープンソース モデルについては楽観的ではないようですが、オープンソースは企業にとって大規模なモデルを導入するコストを薄めるので、意味がないとは言えません。オープンソース モデルについて実際のところどう思いますか? **
**Shen Ji:**LLaMA (注: Facebook のオープンソース モデル) のコストは誰が負担するのか、とおっしゃいましたね。フェイスブックです。 Facebookの費用は誰が負担するのでしょうか？ **この問題の行き着く先が分からないのであれば、それ（オープンソース）は源のない水、根のない木と同じであり、いつか問題が起こるでしょう。 **
これは従来のオープンソース ソフトウェアとは異なるため、これまではオープンソースへの投資は自分の時間を犠牲にしていました。しかし現在、大規模なオープンソース モデルを開発しようとすると、マシンとデータのコストが高すぎます。
**Q: 愛を使って発電することはできますが、愛を使って計算することはできません。 **
Shen Ji: はい、トレーニング 1 ラウンドに数千万ドルを投じる必要があります。
今日の伝統的なオープンソース ゲームプレイと少し似ているのは、ユーザーの注目を集めるためにオープンソースを使用し、最終的には他の (クローズド ソースの) 大規模モデルを選択することを望んでいるという点です。
**Q: Red Hat と IBM (注: 2018 年に IBM は世界最大のオープンソース企業である Red Hat の買収を発表) のような関係を持つことは可能ですか? IBM のような不本意な金持ちビジネス オーナーがオープンソースをサポートするつもりだと仮定しますか?このようにして、オープンソースは財政的およびデータ的なサポートを受けることになります。 **
Shen Dou: オープンソースは間違いなく長期にわたって存在します。大型モデルへの注目が高まるにつれ、政府や企業がこの分野の研究を支援し、市場全体での教育を促進するために寄付する可能性があります。しかし、それは最終的にどれくらいの価値があるのでしょうか?主流にはならない可能性が高く、完全なクローズドループのビジネスモデルにはならない可能性が高いと思います。
従来のソフトウェア開発は、閉ループを形成する可能性があります。たとえば、コードを作成したり、機能をアップグレードしたりすると、すぐにチェックインでき、オープン ソース ソフトウェア全体の機能が即座に向上します。しかし、今日LLaMAがリリースされてからは、どれだけの人が使っても、チェックインできない、データが返せない、計算能力が返せない、能力が返せない、というクローズドループが形成できなくなってしまいました。 。
**Q: 多くのオープン ソース スクールは、オープン ソース モデルが何兆ものパラメータを読み取ったと信じています。クローズド ソース モデルほど優れたものではありませんが、それでも非常に使いやすいものです。モデル自体が985や211目盛のレベルではないのと同様に、少なくとも垂直方向の微調整には使用できるプロレベルです。 **
Shen Dou: 財団モデルを改善する必要がありますか?現在の基礎モデルがすでに非常に優れており、変更する必要がない場合は、問題はありません。しかし、現在の状況では、Foundation Model のスコアは 60 点しかなく、90 点または 95 点を達成できるように努力しなければなりません。
**Q: なぜ進歩する必要があるのですか?多くの企業の実感としては、GPT3.0 ですでに問題は解決できるのに、進歩にはどのような意味があるのでしょうか。 **
Shen Ji: これは非常に良い質問であり、社内で議論しました。現在、Foundation Model はスコア 60 で問題の大部分を解決できますが、それでも完全な解決策には程遠いです。そして、人間の本性としての要求は、一度解決させてもらえれば、二度は絶対にやらないということです。
今日は、基礎モデルのスコアが 60 しかなかったので、スコア 85 でトレーニングしました。その後、Foundation Model は 85 点に到達しますが、95 点を獲得できるでしょうか?この点で人々が追求できることには制限がありません。
この制限は今後も確実に引き上げられていくでしょう。検索を例にとると、20年以上前の検索が使えるのですが、Googleは20年以上何をしてきたのでしょうか？完了したように見えますが、完了していません。
**Q: 大型モデルの次の競争環境についてはどう思いますか? **
Shen Dou: 現在市場にはたくさんのモデルがありますが、その多くはすぐに消えてしまうと思います。
今でも多くのモデルが存在しているのは、その良し悪しがまだ分かっていない人が多いからです。とにかく誰も試せない、誰も使えない、そして最初のテストではかなり上位にランクされる。しかし、モデルが自由化されるにつれて、メリットとデメリットの判断が容易になります。現在、大きなモデルを作る人に 3,000 万個の問題を与えて入力しようとすると、おそらくほとんどが失敗するでしょう。
これにより、トラフィックが徐々に集中し、ヘッドモデルがスケール効果を形成しやすくなり、モデル開発コストがさらに分担されます。差はさらに広がるだろう。
**Q: ノックアウトラウンドはいつ始まりますか? **
Shen Dou: 何とも言えませんが、結局全員が資金を集めるには時間がかかるかもしれません。大企業にとっては、まだ燃やすのに手頃な価格ですが、それは燃やすことの価値にも依存します。一部の企業はとにかく多くのアプリケーションシナリオを持っているため、現時点では他の人の大規模なモデルAPIを調整させることは絶対に許可せず、必ず独自のモデルを作成します。良くも悪くも(それは関係ない)、少なくとも外部に頼る必要はありません。大企業はしばらくモデルを作り続けるだろう。
03 大規模モデルによりクラウド コンピューティング サービスが「標準化」に向けて進むことが可能となり、Baidu Cloud はついに収益を上げます
**Q: 将来的には大型モデルがすべてのアプリケーションのベースになるのでしょうか?これにより、まったく異なる開発と応用の生態が生まれるのでしょうか? **
Shen Ji: この大型モデルが新時代のオペレーティング システムとなり、多くのアプリケーションのベースとなることは間違いありません。
長い間、人々は人や機械を扱う際に指示として言語を使用してきました。しかし、昔は機械は自然言語を理解できなかったため、機械に理解させるための一連のプログラミング言語を強制的に書きました。大きなモデルが自然言語を理解できるようになったことで、アプリケーション開発パラダイム全体が根本的な変化を遂げました。開発はコーディング能力ではなくアイデアによって推進されるようになります。
さらに、大型モデルにはシステムを直列に接続する機能もあります。現在出現しているプラグイン (独立して特定の機能を完了し、呼び出されるのを待つコンポーネント) と同様に、大規模なモデルでもプラグインを組み合わせて特定のタスクを完了できます。これにより、開発パラダイムはさらに変化します。
**Q: 大きなモデルですべてのプラグインを接続して問題を解決できる場合、これは相互接続の偽装形式ですか? **
Shen Ji: 実際には、まだありません。実際、これらの APP は現在、同じ携帯電話上、同じアプリケーション内に存在していますが、まだ相互接続されていません。将来的には Meituan が加わり、Didi も大規模なモデルベースに加わる予定ですが、まだ相互運用性はありません。
**Q: 根本的な問題は解決されていません。 **
Shen Dou: はい、相互接続とはデータの公開を指します。私はあなたのデータにアクセスでき、あなたも私のデータにアクセスできます。しかし、大規模なモデル ベースでは、ハブと通信するだけですが、プラグインは相互に通信しません。
**Q: この相互接続がない状況により、開発者はクロスリソース スケジューリングをスムーズに実装できなくなりますか?これは中国の大型モデル開発生態系の欠陥なのだろうか？ **
Shen Dou: 自由化されていないことと交通規模が増えていないことが主な理由だと思います。たとえば、Wenxin Yiyan には一度に 3,000 万以上のトラフィックがあり、開発者が 1% が自分のものである可能性があると計算すると、30 万件の訪問があり、そうすることを決定します。
**Q: 大規模モデルの時代において、Baidu Cloud はエコシステム内での位置をどのように定義しますか?特典メカニズムをどのように配布するか? **
Shen Dou: 百度だけでこれを行うのは絶対に不可能です。できないのではないかと心配しているのではなく、絶対にできないのです。
まず第一に、プラグインは間違いなく非常に豊かなエコシステムを持ち、大規模なモデルと相互補完するでしょう。プラグインは大規模なモデルからトラフィックを取得する必要があり、大規模なモデルではプラグイン機能のサポートが必要ですが、今日と同様に、携帯電話に WeChat や Douyin がないと仮定すると、ユーザーはそれを使用できない可能性があります。
第 2 に、エンド顧客向けのアプリケーションに関しては、プライベート クラウドの導入であれ、Qianfan などのプラットフォーム レベルのソリューションであれ、最終的には、Kingdee、UFIDA、iSoftStone などのエコロジカル パートナーがラスト マイルの配送問題を完了する必要があります。彼らは特によく知っている顧客とビジネスプロセスを持っており、最終的な要件はそれに基づいて統合されます。
要約すると、1 つ目はエコロジーを開発するための能力の集合体、2 つ目はビッグ モデルの提供を支援するパートナー、3 つ目はビッグ モデルを使用して自社のサービスを強化する顧客、これらはすべてエコロジーです。
**Q: 大規模モデルのテクノロジー パラダイムはクラウド コンピューティングにどのような変化をもたらしましたか? **
**Shen Dou:**技術開発の傾向はますます進んでいます。言い換えれば、私たちは最下層からますます遠ざかり、細部に注意を払う必要性はますます少なくなり、パッケージングはますます良くなり、これらの仕事を舞台裏で行う人がたくさんいます。 。これ自体がクラウド貢献の価値でもあります。
初期の CPU クラウドがもたらした価値は、顧客が自分のマシンを購入してカードを 1 つずつバンドルする必要がなくなり、パッケージ化がますます良くなり、その上で直接使用できることです。大型モデルの時代の到来に伴い、「AI加速チップ」GPUが徐々にコンピューティングパワーの中心となり、コンピューティングパワーの成長率はCPUの成長率をはるかに上回っています。これにより、CPU クラウドから GPU クラウドへの切り替えが加速します。
GPU クラウドの時代には、最終的にはクラウドの機能をさらにカプセル化し、最下層の露出を防ぎ、より高度なインタラクティブな形式を形成し、大規模モデルの API に直接接続することになります。現在のクラウドはまだエンジニア向けに開発されており、対話形式が徹底されていませんが、将来的には下位のエンジニアが減り、上層部に行く人が増えるでしょう。これは劇的な変化です。
Baidu Smart Cloud | 画像出典: Visual China
**Q: 大規模モデルはクラウド コンピューティング市場の状況を再構築するでしょうか?もしそうなら、いつ信号を見ることができますか? **
Shen Dou: この質問は気に入っています。大規模なモデルがなければ、Baidu のクラウドを運用するのは非常に困難になります。これまで私たちは「業界の深化、シナリオ重視、クラウドとインテリジェンスの統合、包括的なAI」と叫んできたが、Baidu Smart Cloudがやりたいのは、To Bサービス全体にAIを入れ込み、AI化することだ。成長点。
**しかし、従来の AI は非常に細分化されていました。問題に対する機能を生成してから、この問題を解決する必要がありますが、汎用性に乏しいです。結果として、スケールアップが難しく、粗利益も低いプロジェクト制となっています。 **
生成 AI が登場してからは、非常に汎用性が高く、一度に多くの問題を解決できることがわかり、アプリケーション層以下は基本的に統一されており、微調整やプラグインが必要な場合でも、標準化されたアクションであることがわかりました。これは、これまでの非常に細分化された AI アプリケーションとはまったく異なります。これ自体がクラウドビジネスにおける大きな変化であり、いわゆるIaaSがMaaSになった。
**Q: 以前、中国の AI 企業はプロジェクトを獲得する必要がありましたが、それは非常に困難でした。現在のように標準化された製品では問題を解決できません。 **
Shen Dou: その時、私たちはロビン (注: 百度の創設者、会長兼 CEO のロビン・リー) とクラウド戦略について話し合いました。彼はまた、標準化と拡張を求めました、そうしないと百度を技術として反映できなくなります。会社の価値。
**Q: それでは、次の長期的な課題は標準化と規模化になるのでしょうか? **
**Shen Dou:**大規模モデルは初期には大きな不確実性がありましたが、現在では多くの顧客が大規模モデルの容量制限、境界、コスト、納期、需要方法について統一した理解をまだ持っていません。短期間ですべてのお客様がパブリッククラウドに来ていただけるとは限りませんので、まずはプロジェクト制で実現しなければなりません。
しかし、このようなプロジェクト制度であっても、これまでのプロジェクト制度とは異なります。たとえば、民営化された展開モデルを用意しました。これは Windows や Office に似ています。最初はバージョン 95、次にバージョン 97、次にバージョン 2000 です。アップグレードを続ける必要があります。自宅でインストールできるように CD を渡したように見えますが、実際には定期購入を続ける必要があります。これもオリジナルとは違います。
**Q: しかし、あなたの財政は改善されました。今年の第 1 四半期に、Baidu Smart Cloud は初めて四半期黒字を達成しましたが、その理由として、クラウド サービスの標準化により大規模な再利用が可能になり、コストが削減されたことが挙げられました。 **
**シェンドゥ:**はい。純粋なプロジェクトシステム、またはプロジェクトシステムの割合が比較的高い場合、納品後の粗利益が低すぎます。
04 1 年以上にわたって Baidu Cloud を担当してきましたが、私たちは最高の機会を迎えました
**Q: Baidu の最高意思決定レベルのメンバーとして、あなたが最も懸念していること、不安に思っていることは何ですか?チームで最も頻繁に議論される問題は何ですか? **
**Shen Ji: 製品の形式に関して、ロビンには、すべての製品を AI ネイティブ思考で再構築する必要があるという要件があります。統合ではなく再構築だ。 **
技術的には、今日の生成 AI の機能がどこまで向上できるかについて考えます。 Wenxin Yiyan の現在の評価結果は悪くありませんが、人間の言語の上限や優れた人間の言語理解にはほど遠いです。この能力を急速に向上させ続ける方法は、間違いなく私たちが最初に考える問題です。
次に、業界への応用です。モデルを実際にどのように使用できるか、どのようなシナリオで使用できるか、しきい値はどのくらいか、境界の幅はどれくらいか、効率を向上させる方法、より良い使用方法を全員に考えるよう促すにはどうすればよいか、などです。 ……これは私たちが考え続けなければならないことです。
**Q: これらは比較的柔らかい層ですが、硬い層はどうですか? **
Shen Ji: 現在、コンピューティング能力のクラスターは 10,000 枚から 10,000 枚までの範囲に及びますが、10,000 枚のカード レベルで単一のタスクを実行できる中国の企業は Baidu だけです。
Wanka クラスターの下では、組織、効率、保証は、誰の目にも見えない実際の最下位レベルのタスクですが、非常に重要です。たとえば、基盤となるハードウェアのトレーニングと推論の効率、およびソフトウェアとハードウェアの統合を改善したいと考えています。これらはすべて非常に重要なことです。
**Q: あなたは長年にわたり Baidu で検索および広告ビジネスを担当してきましたが、スマート クラウドを担当するようになったのは昨年になってからで、すぐに大型モデルの歴史的チャンスに遭遇しました。それは祝福だと思いますか？気分はどうですか？ **
Shen Ji: そんなに大袈裟ではありませんが、このようなことができることに本当に興奮していますし、幸運です。
昨年私が引き継いだとき、私はクラウド サービスの拡張と標準化を考えていました。しかし、AI の機能は非常に細分化されているため、これを行うのは非常に困難です。 **当時私は、AI の能力と AI の計算能力の両方を必要とし、同時に多くの人が利用できるものはないだろうかと真剣に考えていました。長い間探しても見つかりませんでした。 **
続いて、大型モデルの登場です。一気に快適になりました。
Shen Dou 氏、Baidu Group 執行副社長兼 Baidu Intelligent Cloud Business Group (ACG) 社長 | 画像出典: Baidu
**Q: あなたは人工知能を研究していますが、大きなモデルのほうがあなたに適していますか? **
Shen Dou: これは私が大学院生のときにやったことと非常によく似ています。私は常にコンピューターサイエンスを学んでいましたが、よりソフトウェアに取り組み、人工知能に取り組んできました。
クラウド（低レベルのハードウェア）に接続した後、実際にオペレーティング システムとコンピュータの構成原理に関する本をもう一度読みました。本当にCPU時代のIaaSやネットワークコンポーネント、ストレージコンピューティングだとしたら、まだちょっと難しいと思います。
しかし、大きなモデルが登場した後、それらは以下にカプセル化されていることがわかり、現在は論文を読んだり、Python を使用して Qianfan の API を呼び出したりするなど、主に大きなモデルを研究しています。とても楽に感じます。
**Q: 次に、Baidu Smart Cloud の発展と成長率についてはどの程度の期待がありますか? **
**Shen Dou:**Baidu Smart Cloud の規模は現在 200 億元近くですが、それでも比較的小規模です。大型モデルのサポートにより、お客様の需要は非常に強くなり、現在は圧倒されています。ただし、ユーザーが本当に使用して適切に提供できるようにするには、まだプロセスが必要です。
**Q: 第 4 四半期には小規模な流行が発生する可能性がありますか? **
**Shen Dou:**第 4 四半期は爆発的に成長すると予測する人もいます。確かに需要は増え始めていますが、爆発的に伸びるのは来年になるのではないかと思います。
**Q: 自分の運をどう評価しますか? **
Shen Dou: これは百度の幸運だと思います。 Baidu は AI に長年取り組み、多大な努力を払ってきましたが、大きなモデルが登場しない場合、クラウドの商用化の道は確かにさらに困難で困難になります。これは、ビジョンを持つ企業が最終的にそれほど幸運ではないことを示しています。