【研修報告】SNS・生成AI時代における情報リスクとフェイク情報対策について

このたび、総社市で行われたSNSや生成AIの急速な普及によって変化する情報環境について、地方議会議員としてどのように向き合うべきかを学ぶ研修に参加しました。

今回の研修では、大きく

1. SNS・生成AI時代における市議会議員の情報リスク対策
2. フェイク情報対策と表現の自由のバランス

という二つのテーマについて学びました。

SNSは、市民の皆さんへ議会活動や市政情報を直接届けることのできる非常に有効な手段です。一方で、生成AIの発達によって、文章・画像・音声・動画を誰でも容易に作成できる時代となり、「何が事実なのか」を見極めることは、以前よりはるかに難しくなっています。

特に、公職にある者は一般の利用者以上に情報発信の影響が大きく、情報の正確性、個人情報の保護、誹謗中傷への対応などについて、これまで以上に高い意識を持つ必要があります。

1．生成AIによって大きく変わる情報環境

生成AIは、文章の作成だけでなく、写真、イラスト、音声、動画など、さまざまな情報を短時間で作り出すことができるようになっています。

行政や議会活動においても、資料整理、文章作成、情報分析などに活用できる可能性は非常に大きく、適切に使えば業務効率を飛躍的に高めることができます。

しかしその一方で、大きな課題もあります。

AIが生成した情報は、必ずしも事実であるとは限りません。

もっともらしい文章であっても、存在しない事実や数字、制度などを含む場合があります。

そのため、

「AIがそう回答したから正しい」

という考え方は非常に危険です。

特に行政制度、法律、予算、統計、市民生活に関係する情報を発信する場合には、行政の公式資料や法令、一次情報までさかのぼって確認することが重要だと改めて感じました。

2．「偽物を作るコスト」が急激に下がっている

生成AIの普及による大きな変化の一つが、

本物と見分けにくい偽情報を、誰でも簡単に作れるようになったこと

です。

以前であれば、精巧な偽画像や偽動画を作成するためには専門的な技術が必要でした。

しかし現在では、AIを利用することで、実際には発言していない内容を話しているように見せたり、実際には存在しない写真や動画を作成したりすることも技術的には容易になりつつあります。

政治家や著名人の場合、

• 発言の切り取り
• 画像の加工
• なりすましアカウント
• AIによる偽画像
• AIによる偽音声
• AIによる偽動画
• 文脈を無視した情報拡散

などの対象となる可能性があります。

地方議員についても例外ではありません。

むしろ地域社会では人間関係が近いため、一度誤った情報が広がると、市民同士の口コミやSNSによって短時間で拡散してしまう危険があります。

3．SNSでは「正しい情報」より「強い情報」が広がることがある

SNSの特徴として、必ずしも正確な情報が最も拡散されるわけではありません。

驚き、怒り、不安、対立など、人間の感情を強く刺激する情報ほど共有されやすい傾向があります。

例えば、

「○○ではないか」

という推測が、

「○○らしい」

となり、さらに、

「○○だ」

という断定的な情報へ変化して拡散されることがあります。

最初は小さな誤解であったとしても、SNS上で多くの人が繰り返し目にすることによって、あたかも事実であるかのように受け止められてしまう危険があります。

政治や行政に関する情報では、こうした問題を特に意識する必要があります。

4．地方議員自身のSNS発信にも責任がある

一方、フェイク情報の被害を受けることだけを考えていてはいけません。

地方議員自身も情報の発信者です。

SNSを使えば、市政や議会の情報を、市民の皆さんへ迅速に伝えることができます。

これは大きなメリットです。

しかし影響力があるからこそ、

• 事実と意見を区別する
• 情報源を確認する
• 数字の根拠を確認する
• 不確かな情報を断定しない
• 個人情報を不用意に掲載しない
• 誰かを一方的に攻撃する発信を避ける

といった基本姿勢が重要になります。

特に議員の発言は、個人のSNS投稿であっても「議員としての発言」と受け止められる場合があります。

そのことを十分理解した上で発信する必要があります。

5．一度発信した情報は「完全には消えない」

SNSを利用する上でもう一つ重要なのが、情報の保存性です。

投稿を削除したとしても、

• スクリーンショット
• 転載
• 引用
• 保存
• 他のSNSへの再投稿

などによって残る可能性があります。

そのため、

「後から消せばいい」

という考え方は通用しません。

議員活動だけでなく、企業や行政の情報発信においても、「公開ボタンを押す前に一度確認する」という基本動作がますます重要になっています。

6．フェイク情報を規制すればすべて解決するわけではない

今回もう一つ大きなテーマとなったのが、

「フェイク情報対策」と「表現の自由」のバランス

です。

偽情報によって社会が混乱するのであれば、「偽情報を法律で禁止すればよい」と考えたくなります。

しかし問題はそれほど単純ではありません。

「何がフェイク情報なのか」

「誰がそれを判断するのか」

という非常に難しい問題があるからです。

行政や政府が情報の真偽を一方的に判断する制度を強くし過ぎれば、正当な批判や少数意見まで抑制してしまう危険があります。

民主主義社会において、行政や政治への批判、異論、少数意見が自由に表明できることは非常に重要です。

そのため、

偽情報を防ぐことと、自由な言論を守ることを両立させなければならない

という難しい課題があります。

7．法規制だけではフェイク情報問題を解決できない

フェイク情報への対策として、法律による対応は一つの手段です。

誹謗中傷、名誉毀損、プライバシー侵害、なりすましなど、既存の法律によって対応できるケースもあります。

しかし、すべての誤情報を法律で取り締まることは現実的ではありません。

単なる勘違いなのか、意図的な虚偽なのか。

意見なのか、事実の主張なのか。

風刺なのか、悪意ある捏造なのか。

境界線を明確に引くことは非常に難しい問題です。

したがって、法規制だけに頼るのではなく、

法律・技術・教育を組み合わせた対策

が重要になります。

8．技術による対策

生成AIによって偽情報が作られる一方で、それを見分ける技術も進歩しています。

今後は、

• コンテンツの出所を確認する仕組み
• AI生成物を識別する技術
• なりすましアカウントの検知
• 不正アクセス対策
• SNS事業者による監視・対応

など、技術的な対策もより重要になっていくと考えられます。

ただし、技術だけですべての問題を解決することも困難です。

AIが進歩すれば、それを見抜く技術との競争も続いていきます。

最後は、情報を受け取る人自身が判断する能力も必要になります。

9．最も重要なのは「情報を疑う力」

今回の研修を通じて特に重要だと感じたのは、情報リテラシーです。

SNSで情報を見たときに、すぐに信じたり拡散したりするのではなく、

「これは誰が発信した情報なのか」

「一次情報はどこにあるのか」

「数字の根拠は何なのか」

「反対側から見るとどうなのか」

「画像や動画は本物なのか」

と、一度立ち止まって考える力が必要になります。

これは子どもだけではありません。

大人も、政治家も、行政職員も同じです。

生成AI時代には、情報をたくさん知っていること以上に、

情報の信頼性を判断できる能力

が重要になるのだと思います。

10．自治体にも求められる情報発信力

今回のテーマは、議員個人だけの問題ではありません。

自治体の情報発信にも深く関係します。

災害や事故などが発生した場合、SNS上では誤った情報が急速に拡散する可能性があります。

その際、市が正確な情報を迅速に発信できなければ、市民の不安や混乱を拡大させることにもなりかねません。

逆に、

「困ったときは市の公式情報を確認すればよい」

という信頼関係が日頃から構築されていれば、偽情報への強い対策になります。

行政広報についても、単に情報を掲載するだけではなく、

「早く」

「分かりやすく」

「正確に」

「市民が見つけやすい場所で」

届けることが重要になっていくと感じました。

11．議員として今後意識していきたいこと

私自身、ホームページやSNSを活用し、議会での一般質問、行政の取り組み、地域の課題などについて積極的に情報発信しています。

だからこそ、今回の研修内容は非常に身近な問題でもありました。

今後の情報発信では、特に次の点を意識していきたいと思います。

① 一次情報を確認する

行政資料、議会資料、法令、統計など、可能な限り元となる情報を確認します。

② 事実と意見を分ける

確認できている事実なのか、私自身の考えや提案なのかを、できるだけ分かりやすく伝えます。

③ 数字には根拠を持つ

予算、人口、財政、利用者数などについては、出典や算定方法を確認した上で発信します。

④ AIを便利な道具として使いながら、最後は人間が確認する

生成AIは情報整理や文章作成などに非常に有効です。

しかし、AIの回答をそのまま事実として扱うのではなく、最終的な確認と判断は人間が行うことが不可欠です。

⑤ 間違いがあれば速やかに訂正する

どれだけ確認しても、人間が情報を発信する以上、誤りが発生する可能性をゼロにはできません。

重要なのは、誤りが判明した際に放置せず、速やかに訂正する姿勢だと考えています。

12．生成AIを「恐れる」のではなく「使いこなす」

今回の研修を通じて、生成AIやSNSを単純に危険なものとして遠ざけることも適切ではないと感じました。

生成AIは今後、行政、教育、企業活動、地域づくりなど、さまざまな分野で利用されていくことが予想されます。

議会や行政も、その流れから無関係ではいられません。

重要なのは、

「使うか、使わないか」ではなく「どう安全に使うか」

という視点です。

リスクを理解した上で活用すれば、行政資料の分析、市民への情報提供、政策研究、業務効率化など、地方自治のさまざまな場面で大きな可能性があります。

13．研修を終えて

生成AIが発達するほど、情報を作ることは簡単になります。

しかしその反面、

「何を信じるのか」

という判断は、これまで以上に難しくなります。

だからこそ政治や行政には、正確な情報を発信し続けることによって、市民からの信頼を積み重ねていくことが求められます。

また、市民の皆さん一人ひとりが情報を判断できる環境をつくっていくことも重要です。

生成AI、SNS、フェイク情報というテーマは、一見するとITの問題のように思えます。

しかし突き詰めていくと、

「民主主義における情報の信頼をどう守るのか」

という問題につながっています。

地方議員として、SNSやホームページを積極的に活用していくからこそ、便利さだけを見るのではなく、その裏側にあるリスクについても理解し、正確で分かりやすく、責任ある情報発信を続けていきたいと思います。

そして備前市においても、生成AIやデジタル技術を避けるのではなく、リスク管理と情報リテラシーをしっかりと整えながら、行政サービスや情報発信の向上につなげていくことが重要だと考えています。