ChatGPTのようなChatBot Zhinaoは、何を言うべきか、何を言うべきでないかを知っています

ChatBot Zhinao, like ChatGPT, knows what to say and what not to say.

生成型人工知能(AI)はテック界隈で中心的な役割を果たしていますが、綿密に制御されたインターネット環境での運用はほとんど秘密に包まれています。しかし、中国のテック企業である360 Security Technologyは、最近、ChatGPTのようなサービスである「智脳」が中国の厳格な検閲制度をどのように航行しているかについて明らかにしました。この解明について掘り下げ、生成型AIが検閲に適応する方法を探ってみましょう。

また読む:中国の提案されたAI規制が業界を揺るがす

智脳を紹介:中国の「知的脳」ChatGPTのようなテクノロジー

北京での盛大なセレモニーで、360 Security Technologyは、革新的なAIチャットボットである「智脳」、または「知的脳」としても知られる、を紹介しました。創業者であり会長の周鴻祎氏は、このテクノロジーのキーとなる側面を明らかにし、埋め込まれた「多段階のフィルタリングとモデレーション」システムを強調しました。このシステムは、中国の厳格な検閲規制の遵守に不可欠です。

即時停止:精度を持って機微な言葉を扱う

智脳の目立つ特徴の1つは、ユーザーが「機微な言葉」を入力した場合、すぐに会話を停止できる能力です。同社は、禁止された単語やフレーズの包括的なリストを編集し、人間のモデレーターの努力と公安部の監視によって継続的に更新しています。この厳格な制御メカニズムは、生成型AIが中国の検閲システムの要求に適応する方法を示しています。

また読む:

招待制アクセス:コンテンツセキュリティの強化

360 Security Technologyは、招待コードを通じてそのチャットボットへのアクセスを提供する中国のテック大手企業の一般的な制限ポリシーに従っています。この方法を採用することで、同社は、誰が自社の生成型AI製品を利用するかをより制御することができます。コンテンツセキュリティは、オンラインコンテンツの厳格な監視を維持することに中国がコミットしていることと一致しています。

また読む:中国が人工知能のリスクに警鐘を鳴らす

周鴻祎氏は、大規模な言語モデルと生成型AIの開発において、地方の法律、規制、倫理、伝統に従うことの重要性を強調しました。彼は、これらの要因との遵守は、このような技術が開発された国に関係なく、重要であると強調しました。周氏の発言は、AIの出力を地元の規範や価値観に合わせることの重要性を強調しています。

また読む:米国議会が動き出した:人工知能の規制を提案する2つの新しい法案

中国の規制環境:制御された生成型AIに向けた一歩

中国のサイバースペース管理局(CAC)は、4月に、生成型AIを統治する草案規則を導入しました。これらの規制は、各AI製品のセキュリティアセスメントを公開前に義務付け、チャットボットが政権転覆、暴力、ポルノグラフィ、または経済・社会秩序を乱すコンテンツを生成することを禁止しています。正式には導入されていませんが、これらの規則は、中国がその国境内でAI技術の開発と展開を形作ろうとする努力を示しています。

また読む:EUはAIルールで立場を取る

戦略的回避:機微な質問を回避する

BaiduのErnie Botを含む中国のChatGPTスタイルのサービスは、機微な質問に答えることを回避するための特定の機能を実装しています。Ernie Botに中国の民主主義について尋ねられた場合、それについてまだ答え方を学んでいないと述べ、巧みにトピックを回避しました。このような回避的な回答は、中国の厳格な検閲規則に従うために必要な慎重な操作を示しています。

また読む:Ernie Bot vs. ChatGPT:AI言語モデルの比較分析

中国の追いつき競争:前向きな見通し

一部の専門家は、中国の厳格な検閲がChatGPTのライバルの開発を妨げる可能性があると懸念していますが、周鴻祎氏は楽観的です。彼は、コンテンツのモデレーションが360 Security Technologyの独自のアドバンテージではなく、中国のすべてのインターネット企業が禁止されたコンテンツを生成する能力を持っていると認めました。周氏の前向きな見通しは、中国がOpenAIのChatGPTモデルの進歩に追いつこうとする決意を示しています。

未来に向けて抱擁する:智脳と中国の生成型AIの景観

Zhinaoの発表は、中国の生成型AIの分野における重要なマイルストーンである。中国は検閲規制の遵守を重視している。一方で、360 Security Technologyのような企業は、現地の法律と倫理に合致するAI技術の開発に取り組んでいる。世界的なAIの進歩に追いつくレースは続いており、中国は大規模言語モデルや生成型AIの分野で著しい進歩を遂げることができるようになっている。

また読む: 中国の10億ドルの賭け:Baiduの1.45億ドルのAIファンドは、自己完結型AIの新時代を示唆している

私たちの見解

360 Security TechnologyのZhinaoは、厳格に管理されたインターネット環境内で生成型AIを運用する複雑さを示している。中国が自身の規制枠組みを形成し続ける中、これらの進展がAIの未来をどのように形作るか、世界は注目している。中国が生成型AIの限界を押し広げ、この分野のグローバルリーダーとの差を縮めるためにどのように努力するか、注目していてください。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

データサイエンス

超幾何分布の理解

二項分布は、データサイエンスの内外でよく知られた分布ですしかし、あなたはその人気のないいところのいとこである超幾何分...

データサイエンス

「Amazon SageMaker Data WranglerでAWS Lake Formationを使用して細粒度のデータアクセス制御を適用する」

「SageMaker Data Wranglerは、Amazon EMRと組み合わせてLake Formationを利用できるようになり、この細かいデータアクセス制...

機械学習

NODE:表形式に特化したニューラルツリー

近年、機械学習は人気が爆発し、ニューラルディープラーニングモデルは画像やテキストなどの複雑なタスクにおいて、XGBoost [...

データサイエンス

ウェアラブルフィットネストラッカー:早期疾患の検出の可能性を開く

消費者向けと医療用のウェアラブルが融合のばしょにあるかもしれませんか?ウェアラブルが融合して、より価値のあるものにな...

データサイエンス

2023年の機械学習研究におけるトップのデータバージョン管理ツール

生産に使用されるすべてのシステムはバージョン管理する必要があります。ユーザーが最新のデータにアクセスできる単一の場所...

機械学習

このAIニュースレターは、あなたが必要とするすべてです#71

今週、ジョー・バイデン大統領は人工知能の規制を再び注目させるために、人工知能の監督を目的とする行政命令に署名しました...