26
そのまま嘘に嘘を重ねて大歴史改変を繰り広げた形です。源為朝が、史実では参戦していない平治の乱で、当時数え1歳だった源義経に「救出された」と堂々と記載している点など、驚かされます。
会話するAIには嘘を増幅する作用がある訳です。
27
Bing AI ChatはWikipediaなどの資料を参照していますが、資料をまったく「読めていない」ことが分かります。
想像するに、Wikipediaの記事などを見て、保元の乱で源為朝が「（崇徳上皇方が陣を置いた）白河殿に参陣した」ところをだけを読み取り、「後白河方」と出力したのではないでしょうか。
28
合わせて、当方が最近遭遇したHallucination（AIの嘘）の事例を示します。
これはNew Bing（ChatGPTで強化されたBing AI Chat）の出力例。平安時代に勇猛で知られた源為朝の武勇伝を聞いたところ、完全な創作を出力した例です。
29
論文の結論部分では、今後の言語モデルの開発では「クリーンで高品質なデータの公開と、信頼できる会話システムの慎重な設計を求める」としています。
そもそも大規模言語モデルが「何をしているか」を私たちは完全には理解していない。嘘をつく理由、嘘を除去する方法も分かっていないのです。
30
つまり今のAIは嘘の上に嘘を重ねる性質があるわけです。
論文は、Hallucinationの原因に関する仮説をいくつか提示。その立証は今後の研究に委ねられている。
仮説の一つは「言語モデルの振る舞いは、事前学習時にインターネットテキストから学習したバイアスによって形成される」。
31
下記の論文では、Hallucinationについて本格的に調査。3種類の「会話ベンチマーク」を調べたところ、AIが生成する対話の60%以上がHallucination、つまり嘘だった。Hallucinationはモデルによって学習、増幅されやすいことも分かった。
deepai.org/publication/on…
32
「AIのつく嘘」の問題について、連続ツイートをします。
会話するAI（知識ベース会話モデル）は事実と異なる発言をすることが知られており、この現象は一般にHallucination（幻覚）と呼ばれています。
この問題はごく最近に話題とり、原因や解決方法の解明はまだまだ進んでいません。
33
日経BPの中田敦氏は、ハルシネーション（大規模言語モデルに基づくAIが嘘をつく現象）の問題を積極的に取り上げている。
今のAI技術は「人間が書いたような"それらしい"文章を作る」AIは作れるが、「嘘をつかない」AIを作れない。
この問題を過小評価している人が多すぎる。
xtech.nikkei.com/atcl/nxt/colum…
34
マイナンバー制度の設計に携わった石井夏生利教授。
カードなしでもマイナンバー制度は機能する。マイナカードを事実上義務化する理由が明らかではない。
「『安全です』とか『便利です』とか言うばかりでは、結局『なぜカードか』という点についての説得力が生まれません」digital.asahi.com/articles/ASQBH…
35
マイナ保険証を導入した医療機関の現場では、「セルフサービス式の顔認証がうまく機能しない」「システム上のデータの更新タイミングが遅く資格確認できない」など、多数の不具合が報告されている。
「動かないコンピュータ」状態。 twitter.com/kottur_lover22…
36
NYTはひろゆき人脈につながる成田悠輔が高齢者の自殺強要について述べた点を重く見ている、との見立て。
ひろゆきは米国メディアで「要注意人物」と見なされている。銃乱射などヘイトクラム扇動や、議会襲撃事件扇動などの発信源として悪名高い4chanのオーナーだから。 twitter.com/yeuxqui/status…
37
「倫理的なAI」の労働環境は"倫理的"とはいえない劣悪なものだった。
ChatGPTは非常に注目されているAIツールだ。だが開発元のOpenAIは、ChatGPTから有害コンテンツを取り除くため、大勢のケニア人労働者を時給2ドル以下で働かせていた。かれらの多くは精神的な傷を負った。
time.com/6247678/openai…
38
「AI技術が民主主義を混乱させ破壊する」という趣旨の警告が相次いで出てきた。以下、紹介する。
1本目。New York Times2022年1月15日付けで、Nathan E. Sanders と Bruce Schneier が寄稿したエッセイ「ChatGPTが民主主義を乗っ取る仕組み」。
nytimes.com/2023/01/15/opi…
39
この記事、面白い。
スポーツの部活により「ヤジ、煽り」「自分側に都合がいい誤審の見逃し」「見えないところでの汚い行為」への許容度が上がっていく。非倫理的な習慣に不可避的に染まっていく。 twitter.com/feedback330/st…
40
【DV被害者はマイナ保険証を使わないよう注意を】
- 健康保険証の発行元（健康保険組合、全国健康保険協会、市区町村等）にご自身の情報を開示されないようにする届出が必要（★重要！）
- 届出をしないと加害者にご自身の情報が閲覧される可能性があります
- 届出を出すとマイナ保険証は使えません twitter.com/BooksKuryudo/s…
41
New York Timesがひろゆき氏を取り上げる。
「米国では、彼のサイト（4chan）は大量殺人と結びついた。日本では、彼はスターです」 twitter.com/ura5ch3wo/stat…
42
人権は、判断を高速化し生産性を上げるツールだ。
イーロン・マスク氏による8名のジャーナリストのアカウント凍結の後、国連、EU（欧州連合）、フランス、ドイツ、イギリスが即座に非難した。
大きな組織が即応できたのは人権フレームワークで思考したからだ。
43
【フェイクニュース警報】
やや複雑ですが、連ツイを見ると面白い情報が分かります。誰が拡散し、誰がデマ警報を出したか。 twitter.com/ura5ch3wo/stat…
44
オタクによる深刻な人権侵害。
オタク人口が増えると、中には犯罪者も混じる。人口が増えている現在、何をやっても許される「マイナーなサブカル」だった時代とは違う基準が必要と認識する。
「犯罪者は関係ない」と無視するのではなく、有害な文化を排除するための知恵を。 twitter.com/females_db_par…
45
EU、国連、ドイツ外務省——こういう大きな組織がたった1日でレスポンスした。それだけ明白で大きな問題ということだ。
報道の統制は、ファシズムに至る道なので、現代の国際人権に従うと直ちに厳しく非難することになる。EUはナチスに懲りている。
アメリカ合衆国は、この点まだヌルい。
46
ドイツ外務省はTwitter社に「報道の自由は気まぐれにオン・オフできるものではない」と警告を発した。
BBC「イーロン・マスクは『言論の自由』を謳い文句にした彼の姿勢を根本から覆すことになった。彼個人を怒らせない限りは言論の自由だ、というメッセージのようだ。」
（英国らしい皮肉だ）
47
重要なニュース。
国連と欧州連合（EU）は、イーロン・マスク氏率いるTwitterがジャーナリストをアカウント凍結処分にした措置を重く見て非難した。
国連「メディアの自由はおもちゃではない」
EU「レッドラインはある。近々の制裁もありえる」
bbc.com/news/world-us-…
48
拘留中に亡くなった男性が受けた仕打ち。
- 糖尿病の基礎疾患があると把握しながら医師の診察を受けさせず、薬も与えず
- 身体拘束がのべ140時間以上
- 拘束中はトイレを使わせず、排泄物は垂れ流し
- 複数の署員が手錠などで拘束された男性を蹴る
digital.asahi.com/articles/ASQDF…
49
法務省の人権啓発パンフレットに書き足してほしいこと。
「日本を含む世界中の最も深刻な人権侵害は、法執行機関や治安部隊によって行われています。権力への監視が大事です」
例えば米国務省の人権状況報告書は、真っ先に各国の治安部隊と法執行機関の振る舞いを記す。
nordot.app/97612104774046…
50
法務省も文科省も、人権啓発パンフレットの内容は
「他人をおもいやりましょう」
「（脆弱な人々の属性リスト）を差別しないようにしましょう」
という作り。「うんこ」もその延長。
「国家システムが奉仕するべき根本規範」たる人権の話は出てきません。 twitter.com/ono_matope/sta…
フリーランスITジャーナリスト ← 日経BPで編集長とか ← 早稲田大学大学院・理工
分野：IT全般、インターネットと人権, Blockchain, Crypto
好きなもの：Tech, Innovation
嫌いなもの：Fake, Scam, Cult
趣味アカウント @AkioHoshi2