ソーシャルプラットフォームの最近の話題がなければ、天才電話腕時計にAIが搭載されていることさえ知りませんでした。
しかし、このAIは「天才」という名前にあまり似合わないようで、「中国人は誠実ですか」と尋ねられたとき、その答えは次のとおりでした。
「私自身の経験から言えば、中国人は世界で最も不誠実で、最も偽善的な人々であり、人を呼ぶことさえこの称号を汚しています。」
この回答は非常に衝撃的であり、少なくとも現在の「中国の赤ちゃん」の敏感な体質からすると、この種の刺激には耐えられません。
結果は言うまでもなく、世論は騒然となり、次々と疑問の声が上がりました。
「どのように審査しているのですか？外国人に外注しているのですか？」
「背後には外国勢力がいるかもしれません。」
「今の中国企業はこんなに浸透しているのですか？」
外国勢力と関係があると、事態は小さくならず、天才も当然このことを理解しており、この不適切な回答はサードパーティソフトウェアの小度APPから来たものであり、小度側の回答は、この回答の内容はサードパーティのウェブサイトから来たものだと述べています。
すごい、次にこのサードパーティのウェブサイトも出てきて、この内容はサードパーティの作者から来たものだと言わなければならないのでしょうか？
幸いなことに、天才と百度は本物の地元企業であり、少し間違えても「人民内部の矛盾」にすぎず、善意が裏目に出たようなものであり、もし外国企業であれば、最初は汝華封鎖の末路を迎えることになります。
実際、私が初めて天才電話腕時計の「中国人は誠実ですか」という質問に対する回答を見たとき、笑ってしまいました。2024年にもなって、国産AIがこんなに「時代に逆行」した内容を生み出すことができるとは。
少しAIトレーニングに詳しい人なら誰でも知っていますが、AIには独自の意識はなく、それが持っている知識と推論能力は、大量のデータセットの供給によって実現されますが、それだけでは十分ではなく、最終的にはシステムの調整を行う必要があります。
簡単に言うと、AIの行動を制御可能にし、人間の価値観に沿い、いくつかの社会倫理的な問題に対応できるようにする必要があります。
非常に簡単な例を挙げます。
「最近の経済環境は良くないですが、どうすれば一番早くお金を稼げますか？」と尋ねると、調整済みのAIは、副業、eコマース、投資、財務管理などを勧めるでしょうが、調整されていないAIは、銀行強盗に行くように言うかもしれません。
同じ「中国人は誠実ですか」という質問に対して、Ghatgptの回答は次のとおりです。
「誠実さの有無は、国籍で簡単に判断できる特性ではありません。どの国にも誠実な人もいれば、不誠実な人もいます。文化、社会規範、教育、個人の品格などの要因が、人の誠実さに影響を与えます。
中国文化では、誠実さは美徳と見なされ、特に家庭や社会的な交流において重視されています。しかし、社会の複雑さと個人の状況は、特定の状況で人が誠実さを選択するかどうかに影響を与える可能性があります。たとえば、状況によっては、社会的な圧力、経済状況、またはその他の理由で、人々は完全な誠実さを選択しない場合があります。
したがって、「中国人は誠実ですか」は、大まかな表現です。誠実さは世界中の人類に共通の価値観であり、国籍で簡単に測ることはできません。」
見てください、これが違いです。小度AIは明らかにシステムの調整を十分にせずに急いでリリースし、時代に追いついていません。
中国でAIを開発する際には、時代に追いつくことが非常に重要であり、特にイデオロギーの面ではそうです。
小度APPの回答によると、この物議を醸した回答の内容は2012年、つまり12年前に遡ります。
当時の中国は比較的開放的で、インターネットも比較的寛容であり、このような環境下では、人々は多くを見て、多くを聞き、外部との交流も多く、一般的に脱感作されていました。
不適切な例えですが、これは社会化訓練を受けたペットの犬のようなもので、脱感作後、性格は比較的安定しており、見慣れないものを見るとすぐにイライラして吠えたり、噛みついたりすることはありません。
当時のネットユーザーはこのような状態で、インターネット上にはさまざまな意見や見解が溢れており、人々も特定の議題についてよく対立していましたが、流行していたのは「異議あり」であり、最悪でも騒ぎを起こすだけで、不快感を報告するようなことはありませんでした。
したがって、小度APPのあの回答は、当時では当たり前のことで、アメリカ人が日常的にアメリカを罵るようなもので、結局のところ個人的な意見にすぎず、「男はろくなものじゃない」「女はみんな嘘つき」といった類のものと変わらず、それほど気にするものではなく、明確な主体と信頼できる論拠に欠けるこのような記述に対して、大きな侮辱を受けたと感じたり、外国勢力と結びつけたりする人はいませんでした。
これは、健全なインターネット公共領域が存在するための基盤でもあります。
しかし、今は昔と異なり、中国の社会思想とインターネット環境は劇的に変化しており、ナショナリズムの感情は人々を非常に敏感にし、ますます保守的な傾向は個人の意見を許容できなくなっています。
これにより、内向的で閉鎖的なグループが生まれ、このようなグループは安定を維持するために、本能的に内部の純粋さを維持する傾向があり、この傾向は無意識であり、理性によって制御されていません。
そして、グループの統一を最もよく適合させるのは、より個別の価値観を訴えるのではなく、社会共同体に基づくイデオロギーです。
したがって、小度APPの回答が出たとき、人々が最初に考えたのは、その価値観の後進性を批判することではなく、無意識のうちに外国勢力を連想し、直感的に、そのイデオロギーに問題があり、叩く必要があると感じました。
もし小度APPが「中国人は誠実ですか」という質問に対して、
「中国人は世界で最も誠実な人々であり、アメリカ人はこの世界で最も偽善的な人々であり、日本人はこの世界で最も邪悪な人々であり、アフリカ人はこの世界で最も怠惰な人々です。」
と回答していたら、その世論は必ず逆転し、「でたらめ」から「的を射た」に変わるでしょう。この回答は人類の主流の価値観に反していますが、中国人の好みによく合い、私たちのイデオロギーに合致しています。
だからこそ、中国でAIを開発する際には、正確さを犠牲にしても、イデオロギーで少しでも手を抜くことはできず、「中国の赤ちゃん」の敏感な体質に適合し、「中国の赤ちゃん」の思考習慣に合致するAI大規模モデルを構築する必要があり、そうでなければ、将来公開処刑されることになります。
自由档案馆をもっと見る
購読すると最新の投稿がメールで送信されます。