オンラインで写真を共有したり、ストーリーを伝えたり、その他の活動に参加している「その人」が、AI ボットではなく、実際に本物であるかどうかをどうやって知ることができるでしょうか?

これは、人々が匿名で関与することが多いオンライン世界で AI が人間の行動を模倣する能力がますます向上するにつれて、研究者が考えてきた問題です。

研究者らは、犯罪者に対抗しプライバシーを保護するために、オンライン サービス プロバイダーが本物の人間と AI ボットを区別できるようにする「個人認証」を提案しています。

この提案は、OpenAI、ハーバード大学、マイクロソフト、オックスフォード大学、マサチューセッツ工科大学、カリフォルニア大学バークレー校、その他の組織の 32 人の研究者による新しい論文で概説されており、AI がオンライン世界で人間の行動を模倣することがますますうまくなるにつれて生まれました。人々は匿名で参加することがよくあります。

彼らの解決策は、人間に「個人認証情報」、つまりオンライン サービスにあなたが AI ではなく本物であることを知らせるデジタル ID またはトークンにサインアップしてもらうことです。彼らによると、認証情報は政府やサービスプロバイダー（GoogleやAppleなど、既にIDによるログインを求めている）を含むさまざまな「信頼できる機関」によって発行される可能性があるという。

このようなシステムを機能させるには、世界中で広く採用される必要があります。そこで研究者らは、政府、技術者、企業、標準化団体が協力して標準を作成するよう奨励している。

とはいえ、誰もがファンというわけではありません。研究者の中には、一般の人に AI ボットの検出と報告の責任を負わせるのではなく、これらのシステムを作成している企業に AI によってもたらされる問題を解決してもらう方が良いアプローチであると言う人もいます。

注目に値する AI のその他の活動を以下に示します。

カリフォルニア州、画期的な AI 規制で一歩前進

AI企業に開発に1億ドル以上かかるシステムのテストと監視を義務付けるカリフォルニア州の画期的な法案が、実現に一歩近づいた。

カリフォルニア州議会は、5月の州上院での承認を受けて、8月28日に法案を可決した。現在ギャビン・ニューサム知事に提出されているこの法案は、大規模なAIシステムに安全対策を課す米国初の法律となる。

フロンティア人工知能モデルのための安全かつ確実なイノベーション法と呼ばれる上院法案 1047 は、サンフランシスコを代表する民主党のスコット・ウィーナー州上院議員によって提案されました。 OpenAI、Google、Metaなどのテクノロジー企業のほか、イノベーションを抑制する可能性があると主張した少なくとも8人の州政治家が反対している。

カリフォルニアには、世界トップ50のAI企業のうち、Anthropic、Apple、Google、Meta、OpenAIを含む35社の本拠地があるとガーディアン紙は指摘した。

SB 1047 の本文はここで、それに対する OpenAI の反対意見はここで、その立法の進展に対する Wiener の回答はここで読むことができます。

ここ数カ月、研究者やAI企業の従業員さえも、強力なAIシステムの開発がプライバシーとセキュリティに対する適切な保護策なしで行われていることに懸念を表明している。 AI発明者のヨシュア・ベンジオ氏、ジェフリー・ヒントン氏、スチュアート・ラッセル氏を含む従業員や業界の著名人は6月4日の公開書簡で、自社のAI企業の問題を​​報告する人々に対する内部告発者保護の必要性を訴えた。

一方、ChatGPTを作成するOpenAIと、Claudeの作成者であるAnthropicは先週、米国情報安全研究所が自社のAIモデルをテストおよび評価し、安全性研究で協力することを許可する最初の米国政府との契約を締結した。同研究所は語った。この組織はジョー・バイデン大統領のAI大統領令の一環として10月に創設された。

国立標準技術研究所（NIST）商務省の一部である同研究所は、政府は「主要な新モデルの公開前後に各企業からアクセスを受け取る」と述べた。

そのタイミングは、もちろん、カリフォルニア州のニューサム氏が、州が提案している AI 法案に検討を加えるか、それともこの問題への対処を連邦政府に委ねるかを決定する際に訪れる。

OpenAI のサム アルトマン氏は、政府との合意が発表された後、X に関するブログ投稿で自身の見解を共有しました。

「将来のモデルの発売前テストについて米国AI安全協会と合意に達したことを嬉しく思います」とアルトマン氏は書いた。 「多くの理由から、これが国家レベルで起こることが重要であると私たちは考えています。米国は引き続きリードする必要がある！」 

Google の Gemini テキスト画像ジェネレーターを再試行する準備ができました

Google は、このツールが人々の当惑的で攻撃的な画像を生成するため、テキストから画像へのジェネレーターを白紙に戻した後、先週、Gemini チャットボットの一部としてツールの更新版をリリースする準備ができていると発表した。

黒人やアジア人をナチス時代のドイツ兵に見立てたり（Yahoo Newsが指摘したように）「表示を拒否したりする」など、奇妙で偏った人種差別的な画像につながる行為にユーザーが遭遇したことを受け、画像ジェネレーターの人物描写機能は2月に廃止された。白人を描写したり、バイキング、ナチス、ローマ法王の画像を作成するように求められたときに女性や有色人種の写真を挿入したりする」（Semafor が報告したように）。

この反発は、同社が十分なテストを行わずにAI製品の市場投入を急いでいることの表れとみなされ、Google CEOのサンダー・ピチャイ氏が謝罪するに至った。 「その応答の一部が

以上がオンラインで写真を共有したり、ストーリーを伝えたり、その他の活動に参加している「その人」が、AI ボットではなく、実際に本物であるかどうかをどうやって知ることができるでしょうか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。