AACH備忘録(16) 生成AIの特徴と問題点

AACH備忘録(16)
生成AIの特徴と問題点
チャットGPTやグーグルBard、マイクロソフトBingの比較から
１）はじめに
　生成AIの特徴を明らかにするために、話題になっているチャットGPTやグーグルBard、マイクロソフトBingそれぞれに、１）「北海道大学山岳部は100周年を迎えますが、何をしたらよろしいでしょうか？」と２）それぞれに「依存しすぎると、思考能力の低下をきたすかもしれないと考えますが、如何でしょうか？」、および個人的ですが３）「Who is Hiroji Fushimi?」の３つの質問の回答を比較し、生成AIの問題点を探りました。その結果、これら３つの生成AIに共通する回答手法は、従来の膨大な資料を箇条書きにとりあげて、質問に対してもっともらしい回答を上からの目線で示す歴史家的な見方で、ともすれば常識的なごもっともな提言が多いのに対して、現実的な視点から新しい資料をフィールドワーク的に発掘・提示する下からの目線の手法に乏しいのが生成AIの弱点ではないか、と解釈できた。従って、今後のAIのさらなる実用化は、比較的単純な知的労働を大きく変える可能性が指摘されていますが、生成AIの弱点を補うために、フィールドワーカーによる現場から探求する現実家的視点がますます重要性を増す、と解釈できた。
　では、それぞれの質問に対する３者の回答と比較検討の結果を下記に記します。
２）「北海道山岳部は100周年を迎えますが、何をしたらよろしいでしょうか？」
２－１）チャットGPT
　北海道大学山岳部が100周年を迎えるということは、その歴史と伝統が非常に豊かであるということですね。100周年を迎えるにあたり、以下のようなことが考えられます。
1.  歴史の振り返り
    100周年を迎えるにあたり、これまでの歴史を振り返り、その歴史を紹介するイベントや展示会を行うことが考えられます。これにより、部員やOB・OGたちが歴史に触れ、部の伝統を守り継ぐことができます。
2.  山の環境保護活動
    山岳部が愛する山の環境保護活動を行うことで、部員やOB・OGたちが山と向き合うことができます。例えば、山のゴミ拾いや植林活動などを行うことが考えられます。
3.  活動の拡大
    100周年を機に、新たな活動を展開することができます。例えば、キャンプやトレッキング、スキーなど、山岳部としての活動範囲を広げることができます。また、外部からの参加者を募集することで、山岳部の知名度を高めることもできます。
4.  地域貢献活動
    部員やOB・OGたちが地域に根ざし、地域の人々と交流を深めることも考えられます。例えば、地元のイベントに参加したり、地元の小学校に出向いて山についての講演を行うことが考えられます。
以上のようなことが考えられますが、最も重要なのは、100周年を迎えることで部員やOB・OGたちが一体となり、山岳部の伝統を守り継ぎ、その精神を後世に伝えていくことだと思います。
２－２）グーグルBard
　北海道山岳部は、1926年に設立された登山サークルです。北海道大学の学生を中心に活動しています。100周年を迎えるにあたり、様々なイベントが開催される予定です。
ここでは、いくつかのアイデアをご紹介します。
・記念式典の開催：100周年を記念して、記念式典を開催することができます。式典では、部員のこれまでの活動を振り返り、今後の抱負を語る場を設けることができます。
・記念講演会：100周年を記念して、記念講演会を開催することができます。講演会では、山岳登山の第一人者を招き、山岳登山の魅力や、部活動の経験について語ってもらいます。
・記念誌の発行：100周年を記念して、記念誌を発行することができます。記念誌には、部員のこれまでの活動や写真、インタビューなどを掲載することができます。
・写真展：100周年を記念して、写真展を開催することができます。写真展では、部員のこれまでの活動や、山岳登山の魅力を写真で紹介することができます。
・映画上映会：100周年を記念して、映画上映会を開催することができます。映画上映会では、山岳登山を題材にした映画を上映することができます。
・山岳登山ツアーの開催：100周年を記念して、山岳登山ツアーを開催することができます。ツアーでは、部員や山岳登山の初心者を対象に、山岳登山の基礎知識や技術を学び、実際に山に登る体験をしてもらいます。
　これらのアイデアは、あくまでも一例です。北海道山岳部が100周年を盛大に祝うために、様々なイベントを開催してほしいと思います。
２－３）マイクロソフトBing
２－３－１）最初に尋ねた時の答えは下記のようであった。
　北海道大学山岳部は、1923年に創部された歴史ある山岳部です。2023年には創部100周年を迎えますね。おめでとうございます🎉 100周年をお祝いするには、いろいろな方法がありますが、一つの例としては、北大山岳館という記念建造物を訪れることです。北大山岳館は、山岳部の歴史や活動を紹介する展示物や資料がありますので、ぜひご覧ください。他にもお祝いする方法はあります。例えば、ヒマラヤ山脈などの世界の高峰に挑戦することです。山岳部の先輩たちは、数々の難関を登り切ってきました。その伝統を継承するためにも、高い目標を持って挑戦することは意義深いと思います。 また、日本山岳会などの他の山岳団体と交流することもお祝いの一つです。山岳部の歴史や活動を共有し、山岳文化や自然保護について学ぶことができます。 これらの方法はいかがでしょうか？
詳細情報:https://aach.ees.hokudai.ac.jp/
２－３－２）さらに、再び聞いた時の下記の答えは最初の時とは異なっていた。
　こんにちは、これはBingです。😊北海道大学山岳部は、大正15年に創立された歴史ある団体です12。今年で100周年を迎えるということで、おめでとうございます🎉100周年を記念するには、いろいろな方法がありますが、例えば以下のようなことが考えられます。
・山岳部の歴史や活動を紹介する展示会や写真集を作る
・山岳部のOBやOGと交流する同窓会やパーティーを開く
・山岳部の現役部員や後輩に向けて、先輩の経験やアドバイスを伝える講演会やワークショップを行う
・山岳部の創立者や功労者に感謝の気持ちを表す贈り物や花束を贈る
・山岳部の伝統や精神を継承するために、新しいロゴやスローガンを考える
　これらはあくまで一例ですが、どれも山岳部の100周年を祝うにふさわしいと思います。あなたはどのような方法が好きですか？
詳細情報:https://aach.ees.hokudai.ac.jp/
２－４）比較検討
　生成AIの回答例に共通するのは、具体的な提案を箇条書きに表示しているが、地域社会の貢献活動としてもっともなことが挙げられている。ただ、「ChatGPT」の回答の中で、僕が最も感心したのは末尾で指摘している「最も重要なのは、100周年を迎えることで部員やOB・OGたちが一体となり、山岳部の伝統を守り継ぎ、その精神を後世に伝えていくこと」という点でした。箇条書きに見られる一般的・常識的な視点ではなく、基本的な問題点を指摘しているからです。
　また、個性的と思われる回答としては、上記２－３－１）のマイクロソフトBingの最初に尋ねた時のものです。「100周年をお祝いするには、いろいろな方法がありますが、一つの例としては、北大山岳館という記念建造物を訪れることです。北大山岳館は、山岳部の歴史や活動を紹介する展示物や資料がありますので、ぜひご覧ください」との指摘は北大山岳部のホームページを参考文献にしており、文献調査で明らかにしたこの指摘は正にフィールドワーク的な現場からの指摘だと思われ、この視点は他の生成AIにはみられなかった。だが、再度同じ質問をしたところ、２－３－２）で示したように、他の生成AIと同じような回答様式になってしまったのはどうしたことなのだろうか。「Bingよ、お前もか」と残念な気がした。従って、生成AIの一般的な特徴として、従来の膨大な資料から関連事項を箇条書きにとりあげて、質問に対してもっともらしい回答をうながす手法をとっているが、全体に共通するのは、常識的な上からの目線的な「ごもっとも」な提言が多いことで、フィールドワーク的視点で現場から探求する下からの視点に乏しいことである。

３）それぞれに「依存しすぎると、思考能力の低下をきたすかもしれないと考えますが、如何でしょうか？」
３－１）ChatGPT
　その考え方は理解できます。ChatGPTは機械学習を用いてトレーニングされた大規模な自然言語処理モデルであり、一定のタスクにおいて高い精度を持ちますが、完璧ではありません。ChatGPTに依存しすぎることは、人間の思考力の低下を引き起こす可能性があります。ChatGPTは情報を提供するための便利なツールですが、それを使用する前に、自分自身の思考力を養い、問題に対する考え方を深めることが重要です。また、ChatGPTに依存することなく、自分自身で調べたり、他の人と話し合ったりすることで、知識や洞察力を深めることができます。つまり、ChatGPTを有効活用しつつも、自分自身の思考力を維持し、発展させることが大切です。
３－２）グーグルBard
　はい、Google Bardに依存しすぎると、思考能力が低下する可能性があります。これは、Google Bardは情報を提供してタスクを支援するように設計されたツールであり、人間が自分で考えたり学んだりする能力を置き換えるものではないためです。Google Bardに依存しすぎると、次のような問題が発生する可能性があります。
・自分で考えたり問題を解決したりする能力が低下する
・創造性や独創性が低下する
・学習能力が低下する
　Google Bardを使用する際は、これらのリスクを認識し、適切なバランスをとることが重要です。自分で考えたり、問題を解決したり、創造的になったり、学んだりする機会を常に自分自身に与えるようにしてください。
３－３）マイクロソフトBing
　こんにちは、こちらはBingです。😊ご質問ありがとうございます。マイクロソフトBingに依存しすぎると、思考能力の低下をきたすかもしれないというのは、一概には言えないと思います。Bingは、ユーザーが知りたいことや興味のあることを素早く見つけるためのツールですが、それだけではなく、批判的思考や問題解決力や創造力を高めるためのサポートもしています。12　例えば、Bingは、検索結果に関連する情報や視点を提示したり、ユーザーの質問に対して詳細な回答や説明を生成したり、ユーザーの興味や目的に合わせて検索をカスタマイズしたりすることができます。2 これらの機能は、ユーザーが自分で考えたり判断したりすることを助けるものであり、単に情報を受け入れるだけではなく、分析したり批評したりすることを促します。1
　また、Bingは、検索だけでなく、さまざまなコンテンツを生成することもできます。例えば、詩や物語やコードや歌詞などです。これらのコンテンツは、ユーザーの創造性や表現力を刺激するものであり、思考力の低下とは無縁です。もちろん、Bingに依存しすぎて自分で考えることを放棄したり、他の活動や人間関係を疎かにしたりすることは良くありません。3 Bingはあくまでユーザーのパートナーであり、代わりではありません。Bingを使う際には、自分の目的やニーズを明確にし、適切なバランスを保つことが大切です。
　以上が私の回答です。ご参考になれば幸いです。
詳細情報:1. toyokeizai.net　2. japan.cnet.com　3. nhk.or.jp　+2 その他
１　すぐに｢ググる人｣が陥る思考力低下という盲点　批判的思考･問題解決力･創造力への深刻な影響　ジム・クウィック : ブレインコーチ
２　マイクロソフトの「Bing」はグーグル検索の脅威となるか--検索結果を比較　Stephen Shankland （CNET News） 翻訳校正： 川村インターナショナル2023年02月16日 07時30分
３－４）比較検討
　いずれの生成AIでも「依存しすぎると、思考能力の低下をきたす可能性があるので、そのリスクを認識し、自分の目的やニーズを明確にし、適切なバランスを保つことが大切です」との指摘には共通性があるが、２－３）のマイクロソフトBingの回答では、「思考能力の低下をきたすかもしれないというのは、一概には言えない」と指摘しながらも、「Bingに依存しすぎて自分で考えることを放棄したり、他の活動や人間関係を疎かにしたりすることは良くありません」と述べて、末尾に参考文献が表示されているので、回答の信頼性がより高まったと思われる。

４）　「Who is Hiroji Fushimi?」
４－１）チャットGPT
　Hiroji Fushimi is a Japanese activist and former political prisoner. He was a member of the Japanese Red Army, a militant communist group, and was arrested in 1971 for hijacking a Japan Airlines flight from Tokyo to Fukuoka. Fushimi was sentenced to life in prison for his role in the hijacking, but was released in 1995 after serving 24 years in prison. Since his release, Fushimi has been active in promoting peace and social justice, and has been involved in various activist causes in Japan and internationally. He has been a vocal critic of Japan's military alliance with the United States and of the Japanese government's policies towards Okinawa and other regions of Japan.
４－２）グーグルBard
　私は大規模言語モデルで、幅広い質問やメッセージに対してテキストを生成することができますが、その人物については十分な情報がないため、お手伝いできません。このリクエストについて、他に何かお手伝いできることはありますか？
４－３）マイクロソフトBing
　Hiroji Fushimi is a researcher who studies snow and ice in the Himalayas and other regions1. He has published papers on topics such as acidification of meltwater, sedimentary environments of glaciers, and avalanche sediments23. Are you interested in his work?
１Publications (31)Environmental changes of Nepal Himalaya in terms of GLOF phenomena
２Fluctuations of Sedimentary Environments of the Gyajo Glacier, Khumbu Region, East Nepal
３ヒマラヤ学誌　第19号 (2018年) 目次
４－４）比較検討
　「Who is Hiroji Fushimi?」と尋ねた個人的な回答では、それぞれの生成AI の特徴の違いがはっきりと表れた。
　４―１）の「ChatGPT」はいかにも自信ありげに「Hiroji Fushimiは日本赤軍の政治犯」だというのですから、からかわれているような気がするとともに、「ChatGPT」への不信感が増大しました。ちなみに上記の人物評価を和文に訳してもらうと「伏見広治は、日本の活動家であり元政治犯です。彼は、過激な共産主義グループである日本赤軍のメンバーであり、1971年に東京から福岡への日本航空のフライトをハイジャックしたことで逮捕されました。伏見はハイジャックの役割により終身刑を宣告されましたが、24年間の服役後の1995年に釈放されました。釈放後、伏見は平和と社会正義の促進に活発に取り組み、日本や国際的にさまざまな活動家の原因に関与しています。彼は日本の米国との軍事同盟や沖縄などの日本の他の地域に対する日本政府の政策に対して、積極的な批評家となっています。」と回答してきました。以上のように、個人的な人物評価能力は「問題あり」ですが、「下記の日本語を英語に直してください」と入力すると、瞬時にやってくれるスピードに加えて、スムースな英文の作成能力の高さは相当なもので、こうした方面での生成AIの実用化は、比較的単純な知的労働を大きく変える可能性が指摘されていますが、少なくとも、将来の英語教育にかなり影響するだろう、と感じたことは下記に記しました。
記
AACH備忘録(14)
木崎さんの思い出；二題（英訳）
◆「ChatGPT」感想一口メモ (1)
https://glacierworld.net/travel/aach-memorandum/aach-memorandum14/
　４－２）グーグルBardは「私は大規模言語モデルで、幅広い質問やメッセージに対してテキストを生成することができますが、その人物については十分な情報がないため、お手伝いできません」との回答には思わず「うなり」ました。率直な正直さが表れていると感じたからです。英語で質問したのにもかかわらず、日本語で答えてくれた「Bard；吟遊詩人」は信用できそうな印象を持ちました。
　４－３）マイクロソフトBingの回答にはさらに「うなり」、納得しました。回答は簡潔だが、参考文献を示して、正確な人物評価を行っているからです。ちなみに、英文の回答を日本語に直してもらいますと、「こんにちは、こちらはBingです。😊 英語から日本語への翻訳サービスを利用して、あなたのメッセージを翻訳しました。Hiroji Fushimiは、ヒマラヤや他の地域の雪と氷を研究する研究者です。彼は、融水の酸性化、氷河の堆積環境、雪崩堆積物などのトピックに関する論文を発表しています。彼の仕事に興味はありますか？」とのことでした。Hiroji Fushimi（伏見碩二）を無理して日本語にせず、ローマ字そのままに標記し、誤訳を避けているのは賢明な処置といえますが、４―１）の「ChatGPT」は「伏見広治」と訳し、好い加減さを再び露呈しているのです。

５）結論
　生成AIの特徴と問題点を明らかにするために、チャットGPTやグーグルBard、マイクロソフトBingそれぞれに、１）「北海道大学山岳部は100周年を迎えますが、何をしたらよろしいでしょうか？」と２）それぞれに「依存しすぎると、思考能力の低下をきたすかもしれないと考えますが、如何でしょうか？」、および３）「Who is Hiroji Fushimi?」の３つの質問をし、それぞれの回答を比較検討した。その結果、それぞれの特徴を挙げると、チャットGPTはすごいがどこか怪しいファクトチェックが必要か、グーグルBardは簡潔で慎重さが目立つ、そしてマイクロソフトBingは参考文献つきで手堅い感じがする、というそれぞれの生成AIの特徴がみられるとの印象をもった。今回の検討結果からは、「ChatGPT」はオリジナリティーに問題点を含むが、誇張した表現が許容される文学やアート方面に向いている感じがしたが、グーグルBardとマイクロソフトBingは「ChatGPT」よりも簡潔で、手堅くまとめている印象が強い。なかでもマイクロソフトBingは参考文献を表示していることで信頼性を高めているので、サイエンス関連の報告に利用できるのではないか、と思われる。いずれにしても、これら３つの生成AIに共通する回答手法は、膨大な資料の中から、問題解決に関連する項目を箇条書きに提示し、回答をうながす手法をとっているが、全体的な印象としては、ともすれば常識的な「まことしやか」な上からの目線での回答が多いように感じた。それに反して、マイクロソフトBingの上記１）の質問への回答は、北大山岳部のホームページを参考文献として示し、「北大山岳館という記念建造物を訪れることです。北大山岳館は、山岳部の歴史や活動を紹介する展示物や資料がありますので、ぜひご覧ください」と最初に提言する視点は、参考文献を調べて具体的な北大山岳館を取り上げたことが示すように、現場からの発想に重きをおくもので他の生成AIにはみられなかった。しかしながら、再度同じ質問をしたところ、他の生成AIと同じような回答様式になってしまったのは残念な感じがした。従って、現実的な視点から新しい資料をフィールドワーク的に現場から発掘し、下からの目線で具体的な提言を示す手法に乏しいのが従来の生成AIの弱点ではないか、と考えた。そこで、今後の生成AIのさらなる実用化につれて比較的単純な知的労働環境を大きく変える可能性が指摘されているなかで、生成AIの従来の弱点を補うために、フィールドワーク的視点で現場から探求する下からの視点がますます重要性を増すであろう、と解釈できるのである。つまり、上記の意をくんだフィールドワーカーなら現場へ足を運び、五感を働かせることができるので、急速に拡大しつつある生成AIをもってしても及ばぬ新たな領域を開拓することができるのではなかろうか。

上記のブログに高田さんから感想が寄せられた。
高田 寛之
2023/05/20 19:45
伏見様
　初めまして、ではないと思います。確か４．５０年前、お目にかかった覚えがあります。好きなことを言ってルーム皆様の顰蹙をかっております高田寛之です。
　AIの話ですが、要するに、AIでは優等生的な解答しか出てこないということで、それは十分納得できます。優等生的な解答が必要なのは、わたしが受けた国家公務員の問題みたいなもんで、設問「育種について論ぜよ」という凄い問題で、私はそれに、OTCA（６０代以上の人ならご存じかと思います。JICAの前身です。）の役目から敷衍して、海外技術協力に農学の分野から協力できるとすれば、それは育種である、などと思いっきり好きなことを書いた覚えがあります。余りに好きなことを書いたので、審査員の不興を買ったのか、農学職で３０人中２４番で、そのせいか石垣島まで流された。
　まあ、私も農水省に入ってから４９年で、農水省の生活にも悔いはないわけで。優等生にはできない愉しい思いもさせてもらったわけで。尤も、私も、小中高までは、神童と言われたわけで。
　まあ、貴兄のいわれることは、独創性はAIではできないということで、私もホットしました。
　とりとめのない文章、意をお汲み取り下さい。
　御精読、ありがとうございます。
高田寛之

FUSHIMI Hiroji
2023/05/21 05:00
高田さまーーー伏見です
早速、感想をお寄せくださりありがとうございます。
３年ほど前の雪渓の報告にもご指摘をくださり重ね
重ね感謝します。生成AIに関しては今回のG７でも
取り上げられているようですが、問題点を把握した
うえで、利用方法を考察する必要があると思います。
 

仁木義郎
2023/04/24 07:58
伏見 様
ご無沙汰しております。メールありがとうございます。
伏見さんが薦めてくださったChatGPT、投稿予定の論文のabstract作文に使ってみました。
1分くらいで完成です。これまでの苦労は何だったのか？
伏見さんのメールがなければ試さなかったと思います。ありがとうございました。
お元気で！

窪田　開拓
2023/04/23 09:09
窪田です
有難うございます。
８５歳になりました。早速、印刷したいと思います。
いろいろご教授下さい。

佐藤和秀
2023/04/17 23:01
伏見　碩二　様
佐藤和秀です。ご無沙汰しています。
ありがとうございました。
実は私も1週間前にGhatGPTを初めて試してみたところです。
私は「信濃川、長岡、雪、花火」で詩を作る。と入れたところ、たちまち、16行の詩が、もう少し明るい詩を言うとすぐ。同じ単語を入れても2回目、3回目は違うものが、。最後に校正してと言うと、それなりのことをしてくれました。
そして物語、ミステリーをと入れると次々と。
小説家も利用しているとか、オリジナルとはどうなるのでしょう？
専門的なこと、特に現代のものは間違いが多いみたいです。例えば、〇〇は誰が作ったか？〇〇の業績は？などは、あまり信用しない方がいいみたいです。
私的には遊ぶ？には面白いものが出てきたな　という思いです。
画像生成AIもあり、画像、写真関係も自在とのこと、（まだ試していませんが）。
面白い時代といえば、それまでですが、どのように対処、過ごすのが良い人生なのかなどと思ったりします。
ありがとうございました。