そのまま嘘に嘘を重ねて大歴史改変を繰り広げた形です。源為朝が、史実では参戦していない平治の乱で、当時数え1歳だった源義経に「救出された」と堂々と記載している点など、驚かされます。 会話するAIには嘘を増幅する作用がある訳です。
おそらく、実際のChatGPTなどでは、fine tuningにより嘘や差別表現などを除去しているのでしょう。その作業が行き届かない日本史の分野で、こうした事案が出たものと想像されます。
この事例を見ても、Hallucinationの研究と対策は非常に重要度が高い課題だと認識します。 短期的には、「AIは嘘をつく」ことが周知されるべきだと考えています。
ハルシネーション(AIがつく嘘)の問題についての「よくある質問と答え」。 Q 人間も嘘をつく。AIの嘘が問題である理由は? A AIは嘘と事実を区別できない。また嘘に嘘をかさねて増幅してしまう傾向が報告されている。人間の嘘とは別の種類、別の次元の警戒が必要。
「一定のライン」といえば、まず人権、平和、民主主義が世界共通の約束事ですよね! と思ったら「個人攻撃や政権批判などをしない」ですか…… SNSは炎上を増幅するが、テレビ局も"強めの主張"を喜ぶ。これでいいのかな。 twitter.com/takedasatetsu/…
この1年で分かったこと。 ロシアは思われていたより弱かった。 日本の政権与党に統一協会や他の宗教右派は想像以上に深く食い込んでいた。 イーロン・マスクは天才経営者ではなかった。 日本は米国の要請にあっさり従い軍事費を倍増した。
映画「Winny」公開を前に、Winnyの位置づけについて簡単に。 Winnyは最初のPure P2Pではないものの、「最初期のPure P2Pネットワークのひとつ」と言っても問題ない。 WinnyがBitcoinに影響を与えた証拠はない。とはいえ、両者には距離が近い同時代ならではのアイデアが宿っていたと見ています。
事実上のマイナンバーカード義務化を閣議決定。 感想:医療現場は「マイナ保険証は現場の負担が大きく、現行の保険証と併用してほしい」と声をあげたが完全に無視された格好。 twitter.com/kyodo_official…
これは思い当たる節があります。 「自分たちでやると単価が高い」を理由に「安い相手に組織的に外注」の動きが、IT業界でも他の業界でも横行しすぎた。 コストを気にしすぎ、気がついたら価値の源泉を失っていた。 twitter.com/ohashimasaki/s…
「自民党だけでいい」「(議会ではなく)党内の議論で進める。日本人が得意とするやり方」と民主主義を堂々と否定。もはや、本音を隠さなくていい時代になったということか。 digital.asahi.com/articles/ASR3B…
マイナカードを利用するコンビニのサービスで、別人の住民票が印刷された件。技術的には開発会社の富士通Japanによる設計がダメだったというお話だった。 当方は、開発会社の問題以上に「検証不足のまま実サービスに投入してしまう体制」が問題だったのではないかと考えます。 twitter.com/tetsutalow/sta…
イタリアでChatGPTが停止を命じられた。GDPR違反の疑い。ChatGPTの情報漏洩への告発を受けた措置。 本件は、「人権の一部としてのプライバシー権を、機械学習に基づくAIが侵害している」という重大な問題提起を含んでいる。以下、連ツイで本件に関する情報源を紹介する。 twitter.com/ReutersJapan/s…
ぜひ読んでほしい記事。ChatGPTのようなAIは独占的な監視ビジネスと結びついている。規制当局はまったく力不足だ。 有料記事がプレゼントされました!4月7日 13:24まで全文お読みいただけます ChatGPT、何が問題か 元グーグル社員「非常に無責任で無謀」:朝日新聞デジタル digital.asahi.com/articles/ASR44…
この記事は有り難かった。日本の防衛費増額に関して「どうも腑に落ちない点」を言語化してくれている。 有料記事がプレゼントされました!4月9日 15:15まで全文お読みいただけます (インタビュー)戦前3文書から考える 歴史学者・加藤陽子さん:朝日新聞デジタル digital.asahi.com/articles/DA3S1…
自民党のネット工作を取り上げた記事。 自民はネット戦略に力を入れてきたが、 "足元の支持層でも分断や個人攻撃、誹謗中傷が広がり、党幹部は「制御不能になりつつある」と、認識の甘さを認める。" digital.asahi.com/articles/ASR5B…
ここ数日、LGBT差別や入管問題に関して悪質な発言が相次いでいるので、ソースを記録しておく。 自民党・宮澤博行衆院議員。「行き過ぎた人権の主張、もしくは性的マジョリティーに対する人権侵害、これだけは阻止していかないといけないと思います」 newsdig.tbs.co.jp/articles/-/484…
よく覚えておこう。 防衛費倍増は、国会の議論なしに決定。 入管法改正案は、国会の審議に耐えず強行採決。 LGBT法は、骨抜きに次ぐ骨抜きで「保守派(特に宗教右派)」に配慮。 マイナカード不祥事は、AIで表記揺れに対処の方向(AIが間違えないように調整する工数は?)
衝撃的な記事。BBCが、大量の痴漢動画を撮影販売するグループの首謀者を潜入取材により暴いた。首謀者「チおじさん」のTwitterアカウントは8万フォロワーで、アカウントはまだ生きている。 "ツイッター社にコメントを求めたが、返ってきたのは「うんちの絵文字」だけだった" bbc.com/japanese/featu…
カルト被害を救済する団体のはずだった「日本脱カルト協会」で、トランスジェンダーを悪魔化するトンデモ文書が配布されていた。 当方が尊敬し、またお世話にもなった方たちが立ち上げた団体が人権侵害に加担してしまった形となり、たいへん残念な思いです。 twitter.com/SuspendedNyora…
マイナ保険証リーダーは顔認証で本人確認する作りだが、実運用ではエラー続出で医療機関の現場が困っている。そこで「認証のターゲットを甘くしている=他人でも認証が通る」疑惑が出ている。 感想: 初期設計が間違い。顔認識には慎重なのが今の世界的トレンド。これからでも正すべきです。 twitter.com/emil418/status…
「紙の保険証を撤廃して、2024年にマイナ保険証に切り替え」という方針は、国会で議論された訳ではない。「なぜそうするのか」という国民への説明はない。 医療現場の声は「無理。やめてくれ」。 このゴリ押しをどこまでやるか。注目して見ています。 twitter.com/umekichkun/sta…
統一教会との深い関係について釈明できず更迭された山際大志郎 前経済再生相。 その山際氏を公認する自民党は「有権者の記憶をバカにしているのか」との声が。 ここで統一教会問題をウヤムヤにすると、長期にわたる禍根を残す。 twitter.com/nikkan_gendai/…
今回のTwitter機能不全の背後にあるものは、愚かな判断と組織の弱体化です。 連続ツイートは閲覧制限が心配なので、note記事にまとめました。 Tweitter機能不全の背後には何が?——セルフDDoS、支払い停滞、組織弱体化の疑惑|星 暁雄(ITジャーナリスト) #note note.com/akiohoshi/n/n2…
ちょっとメモ。 Twitterのコミュニティノートは、イーロン・マスク氏による買収以前に作られた機能です。準備期間を経て、日本での一般公開が今の時期に。 マスク氏の主な功績は「自分のツイートにノートが付きまくっているのに、コミュニティノート機能を廃止しなかった」ことです。
有料記事プレゼント(7/10まで) (記事より抜粋) - 日本の人権保障の国際水準は後進国レベル。男女格差が大、国内人権機関や差別禁止法なし - 人権教育が不足している。個人の尊重を利己主義と誤解し、保守派は「行き過ぎた個人主義」を批判 digital.asahi.com/articles/ASR1Y…