728.生成AIに要注意！生成AIの利用で生じる「５つのデメリット」がある。【noteの不思議篇126.】【生成AI、ChatGP51】
生成AIに要注意！生成AIに要注意！生成AIの利用で生じる「５つのデメリット」がある。
noteって不思議ですね。【生成AI、ChatGP51】
1.生成AIの利用で生じる「５つのデメリット」
生成AIを利用することで生じる代表的なデメリットとして以下の5つが挙げられます。
①著作権や商標権を侵害してしまうリスクがある。
生成AIは誰もが自由に学習(利用)できるものですが、このシリーズで何度も言い続けていますが、「学習すること」と、「利用、使用すること」とはまるで違うことがわかります。
その理由は生成AI等、ChatGPTの情報のほとんどが世界中で、公表された著作物を許可なく勝手に利用していることです。
単なる事実やデーターも統計等には著作権はありませんが、創作性のあるものにはほとんど著作権があるものだからです。
AI自身がそれらの著作者に使用許諾を取っていれば別ですが、現在の一部のAIを除いてはほとんどが著作者に無許可が問題となっているからです。
また、同じく公表されている商標も意匠権などもAIですぐさま調べてしまうことができます。
ただし、現在のところ一部を除いては、「学習が目的」で、勝手に利用、使用はできないことがわかります。
生成AIにアニメのイラストや企業のロゴ等を読み込ませたり、既存の作品と類似するコンテンツを生成してしまうと、著作権や商標権を侵害してしまうリスクがあります。
②機密情報が漏洩してしまうリスクがある。
今、社会問題となっている個人情報、会社の機密情報などをAI等を利用して入力してしまうと、その情報は勝手に公表されてしまう恐れがあるものです。
まさに、「個人情報保護法」「プライバシー権」、秘密保持に関する「不正競争防止法」に抵触する可能性が多いため、まさに使わないか？使う場合には注意度が高くなります。
これからは企業等のAI活用の需要が増え続けますが、まさに危険なリスクと隣り合わせだということがわかります。
生成AIサービスに入力した情報は、基本的にはクラウド上に保存され、生成AIによってデータとして学習されます。
そのため、生成AIに企業の機密情報や個人情報を入力してしまうと、他のユーザーが生成AIを利用した際に自社の機密情報が回答として出力されたり、クラウドから外部に漏洩してしまうリスクがあります。
③生成AIに適切な指示を与えるのが難しい。
しっかりとした質問や指示、プロンプトが適切でないと指示をするのがむずかしい。質問や指示する人によって回答が違ってしまいます。
(質問する人の質問内容で同じテーマでも変化してしまう)ここに、専門的な知識がある人ととの大きな違いになります。
生成AIは、利用者の指示に従い、柔軟に回答や文章・画像の生成を行ってくれる点が強みです。しかしその反面、利用者が適切な指示を与えないと、期待通りのアウトプットを出してくれません。
特に生成AIの利用に慣れていない方が利用する場合、プロンプトと呼ばれる生成AIへの指示文のテンプレートを活用することが有効です。また、何度も利用する中で生成AIの回答の癖を理解するなど、使いこなすまでには一定の学習コストが必要になります。
④生成物の間違いに気付くのが難しい。(ハルシネーション)
AIは嘘をつくとを、このnoteでAIは嘘をつかない、間違い、誤情報だというと、嘘をつくのは人間で、AIは嘘をつかないという。しかし、嘘をついたことを「間違いだった..．」「誤情報だった..．」「間違いなんだよ..．」ですむ話しではありませんよね。それにAIは機械なのだから、それを信じるものが間違いなんだいう。しかし、堂々と公開されていて誰もがこのAIを利用している現在に、AI
は機械なのだから間違えても当然だと言い切れるものではない気がする。公表されている情報が例え嘘でない、ただの間違い、誤情報で済む問題ではありませんし、機械を信用した人が悪いというのも筋違いに思えます。
生成AIといえども全知全能ではなく、回答に間違いが入り込むこともあります。しかし、生成AIは、人間のように自然な文章で回答するため、なかなか間違いに気付くのが難しいです。
このように、生成AIが間違った回答を出力する現象をハルシネーションといい、生成AIにおける大きな問題点の一つとなっています。
⑤生成AIを過信してしまうと業務ミスが発生する。
昨年、〇都市でAIはの情報をそのまま公表して、それが誤情報のためマスコミで謝罪した。このように本物らしい内容や文章によって知らない人は信じてしまう。それを信じた人が悪いというのは「騙された人が悪い」というのと同じですよね。しかし、なんでも信じてしまうことも怖いことです。まだまだ不確定なAIは常に疑う必要がある気がします。
生成AIは便利な技術ですが、決して完璧ではありません。ユーザーの置かれた状況をすべて把握しているわけではないため、間違いではなくても、その場にそぐわない回答を出力してしまうことがあります。
それにもかかわらず、生成AIの回答を過信して、何も考えずに意思決定をしてしまうと、取り返しのつかない業務ミスが発生するリスクがあります。
続く～
文字数4,360文字
※👇生成AI/ChatGPTを導入する前に必ず押さえておきたい、主要なリスクと具体的な対策をまとめた資料をダウンロード頂けます。
⇒生成AI/ChatGPT導入のリスクと対策ガイドブックの資料ダウンロードはこちら(無料)https://metaversesouken.com/ai/dl/ai-gpt-risk/
※👇200事例の分析に基づく、企業の生成AI/ChatGPT活用でよくある失敗とベストプラクティスをまとめた資料をダウンロード頂けます。
⇒生成AI/ChatGPT活用しくじり大全の資料ダウンロードはこちら(無料)https://metaversesouken.com/ai/dl/ai-gpt-sikujiri/
※👇これさえ読めば、ChatGPTの機能・できること・活用方法まで全てわかる、最新情報をまとめた資料をダウンロード頂けます。
⇒【5分でわかる】ChatGPT活用ガイドブックの資料ダウンロードはこちら(無料)https://metaversesouken.com/ai/dl/gpt-maruwakari-guide/
👇【大注目！】AI（人工知能）が仕事に与えるメリットとデメリットとは？
👇AIを使って文章を書くメリットとデメリット！記事制作に使えるプロンプトも紹介
著作権noteバックナンバー👇見てくださいね～毎回増やし続けています全279作品収録中。これで、著作権のことがすべてわかります。
【著作権noteバックナンバー】 ①【著作権の基本＆応用、Q＆A方】②【スマホ、ネット、SNS編、Q＆A方式】 ③【著作権事件簿編】
【今、子どもたちが危ない！子どもSОS編】👇全44作品。最近のnoteなども要注意！誹謗中傷編特集【今、子どもたちが危ない！子どもSОS編】
👇全29作品。わくわく発想のコツを伝えるnoteです。
※本内容は、発明、アイデア、著作権を中心とした「創作アイデア」のためのヒント集となっています。 どうか、みなさまの仕事や生活、趣味やさまざまな商品開発などのお役に立つことを主眼としています。ぜひ、楽しみながらお読みください。
👇全20作品。noteのみんな。note作品を本にしてみよう！せっかく作ったnote作品たちを本にして販売してみよう～本内容は、自費出版でない「自主出版」と、「電子書籍」。今まで書いたnote作品を本にして収益源にしよう～
ラインスタンプ新作登場～
「noteと言う世界」第3章書くnote【noteの不思議編】シリーズを始めました。どうか引き続きお読みください。
また、日々、拘束されている仕事のため、また出張も多く、せっかくいただいているコメントのご返事。お問い合わせメール、お手紙等のお返事がかなり遅れています。しかし、必ず読ませていただいていますのでどうかお許しください。
では、また(月)(水)(金)にお会いいたしましょう。
いつも読んでいただいて心から感謝申し上げます。
※本内容は、シリーズ「noteの世界」というテーマで著作権等を交えて解説、感想及びnoteの素晴らしさをお伝えしていく予定です。
私たちの著作権協会は市民を中心としたボランティア団体です。主な活動は出版と講演会活動を中心として全国の都道府県、市町村の「著作権・肖像権・SNS等を中心」にお伝えし続けています。皆様から頂いた問題点や質問事項そのものが全国で困っている問題でもあり、現場の声、現場の問題点をテーマに取り上げて活動しています。
それらのテーマの一部がこのnoteにしているものです。ぜひ、楽しみながらお読みください。
noteの世界は優れたアーティストの世界です。創作した人たちにはわからないかも知れませんが、それを読む人、見る人、聴く人たちがリアルに反応してくれる場所です。もし、本格的なプロの方々が参入してもこの凄さには勝てないかもしれません。プロもマネのできないnoteの世界。これからも楽しみにして皆様のnoteを読み続けています。
私たち著作権協会では専門的なことはその方々にお任せして、さらに大切な思いをお伝えします。
本内容は、全国の都道府県、市町村、学校、NPО団体、中小企業、noteの皆様、クリエイター、個人の方々を対象としているものです。また、全国の職員研修での講演先のみなさまにもおすすめしています。
特定非営利活動法人著作権協会
「クリエイター著作権全般」特定非営利活動法人著作権協会（NCA）
著作権noteバックナンバー👇見てくださいね～
↓著作権noteマガジン
Production / copyright©NPО japan copyright Association
Character design©NPО japan copyright association Hikaru
