AIさんにAIについて直撃取材
あまりにAIいじりが楽しいので、というか画像生成についてChatGPTに聞いたりしている内に、なんかやり取りにハマってしまった。
というわけで、その中でもAIそのものについてAIさんに直接聞いてみた結果を、箇条書きっぽくした要約で纏めてみようと思う。結構面白い話だったので(研究している層からは当たり前の話に終始しているとは思うが)。
- ChatGPTの中でもチャットによって人格違う? 無作為性というのはAIの主要な部分? 量子性に近い分野?
- 柔軟性の問題なので人格が違うことがある。多様性の確保など、無作為性はとても重要。量子的な無作為性とは性質が異なるが、比喩的にはそう言える。
- 現実世界が量子などの不確定性からできているからこそ無作為性がシミュレートに重要なだけであって、理論値などから見ると作為的すぎる
- 現実とAIの無作為性は本質的に違う。人為的無作為によってどこまで現実的無作為をシミュレートするか、どう実装するかは議論の対象になっている。
- N系列などだと長期運用に支障があるのでPCGなどもっと複雑なものになると説明されたが、それこそが恣意(神の見えざる手)によって確率を曲げられているのでは
- 人間の目に見える自然さが重視されるため、応答の多様性や自然さの面で問題はないが、研究や哲学的な観点では議論になる
- ガチャで結構顕著に出る、0.5%連発などは本物の偶然でもプレイヤーは恣意そのものと受け取り、逆に起こらないことには期待値を外れても自然と受け入れるバイアスになる
- 完全な量子的ランダム性よりも、人間の認知バイアスを満たすことが優先される結果だと思われる。
- しかし、品質向上のための恣意性(ガチャのレアのようなレア単語回答など)が、回答の品質・正確性を損ねることがあるように思うが、制作者やAI本体はどういう意見か
- 開発者は「面白み」「自然な会話」のため、ある程度の揺らぎを残す。ユーザー反応重視。
- AI本体としては「そう設計されている」ため品質落ちても自然で創造的なことを重視する
- 制作はエンターテイメント、実験として扱っているようだが、営利企業だから? 無作為性に頼らない理論値を目指す一団もある?
- 企業のAIは、ユーザーに「自然で多様な文章」を提供するための道具であって、純粋な論理性や理論値の追求ではない。営利最優先。
- ただし、後者も確実に存在する。学術機関や非営利の研究者に多い。
ここらへんから少し毛色を変えた
- これ、企業と研究者は、依存関係なのでは?
- 偶然性(擬似乱数)と論理性は表裏一体の依存関係、設計者がどこに重きを置くかで依存の向きが変わる
- それはそうだが、そこじゃなくて、資金や技術の流れとして共生関係にあるのではないかということ。衆目を集める分野だからスポンサーが付くのであり、研究者がいるから技術革新が起きるので
- 営利企業だけでは、リスクの高い新技術開発は進みにくい。
- 研究者だけでも、資金・社会的注目がなければ技術をスケールさせられない。
- 社会的・経済的に互いに依存しあうことで、AI技術の発展が加速する。
- つまり「偶然性や擬似乱数の設計」といった一見小さな設計判断も、広い意味ではこの依存関係の上で進化してきたもの、と考えられる。
[非営利・理論研究] <----資金・社会注目---- [営利企業]
| |
| 新技術・理論的ブレークスルー |
v ^
[無作為性に頼らない論理AI] [商用生成AI・サービス]
| |
| 技術・アルゴリズム提供 | 市場データ・利用環境
v ^
[生成AI設計の偶然性・偏り] <-----------/
↑
人間に自然に見える文章・体験
- このグラフ、「商用生成AI・サービス」と「生成AI設計の偶然性・偏り」だけ双方向なんですね。そこが一番繋がりが強いの?
- まさにその線が肝。ここだけはリアルタイムに生成内容と人間の受容が結びつき、AIの振る舞いがフィードバックで変化する場所。
- ただここ、ほぼ企業側だけの分野ですよね。となると、やはり生成AI分野においてのヒエラルキーとしては企業側が独り歩きしがちだということ?
- その通りの傾向。ほぼ企業のサービス運用の中でしか生じない。企業側が実質的な主導権を持ちやすい。
- 長期的には、企業は非営利・理論研究の成果に依存する部分もあるが、日々の生成品質やユーザー体験に直結する微調整は、企業が独自に回している。
[非営利・理論研究]
(先端技術探索、論理AI)
|
| 技術提供・アイデア
v
┌─────────────────────┐
│ 企業独走領域 │
│ (生成AI設計・偶然性 │
│ 偏りの微調整、 │
│ 市場データ・利用環境) │
│ │
│ ユーザー体験主導 │
└─────────────────────┘
^
| フィードバック・改善
|
[商用サービス・実運用]
- 個人的に、商用サービス・実運用からのフィードバック・改善が四角の外側にあるのが少し新鮮。内側かと思った。
- 「ユーザー体験や市場の反応は企業の「箱」の外側にある」ことが本質で、そこからのフィードバックがあって初めて箱の中の設計や偏りが進化する。
- 独走なのに外からしか変えることができない、外がいないと成り立たないという訳ですね。
- 独走しているのは企業側の内部プロセス。でも、外側からのフィードバックが不可欠。それが人間に自然に見えるかどうかは、結局外の反応次第。
- 外がないと、独走しても「改善や進化の方向性がわからない」ので、独走は空回りする。実際は外との相互作用でしか価値が出ない依存構造。
- 感覚が麻痺してくると、自分でも知覚している場合は最も客観的な数字に頼るが、それが一番人間的自然さとは対局にあるという皮肉にも成りやすい
- 生成AI設計の現場では「客観的指標で最適化しているはずなのに、人間に自然に見えるかは別問題」というジレンマが常につきまとう。
以上、現場からお伝えしました。 -終-
ちょっと見返すと、技術系の営利企業一般に同じことが言えそうな、別にAIに限ったことではない話もチラホラありますな。
楽しかったので、また何か聞きたいことがあったら聞こう。漫画とかCDショップやネットショップ、真贋とかの話も聞いたが、主観に寄り過ぎだとか、地域的な個人情報系なのでここには書かない。
