Published: 2024-04-24 13:44
生成AIの児童ポルノ問題、MetaやOpenAI、Googleら10社が共通対策へ
業界団体のThornとAll Tech Is Humanは、子供を性的虐待から守る目的で、生成AI原則(Generative AI Principles)を発表した。AI関連の主要テクノロジー企業10社が遵守を公約している。
【この記事に関する別の画像を見る】
発表された生成AI原則は、子供を性的虐待から守る活動を進める非営利団体のThornと、倫理的で人間中心の技術開発を働きかける非営利団体のAll Tech Is Humanが協力して進めたもの。AI関連の企業として、Amazon、Anthropic、Civitai、Google、Meta、Metaphysic、Microsoft、Mistral AI、OpenAI、Stability AIが連携を表明している。またサポート業務のTeleperformanceも参画している。
生成AIの活用が進む中で、子供を性的虐待から守る取り組みを原則としてまとめ、各社の製品やサービスに組み込んでいく取り組み。対応を公約する各社は進捗状況を公開する。
生成AIの開発段階では、学習データから児童ポルノ関連の素材を検出して除去し、確認されたデータを当局に報告する仕組みを確立する。製品・サービスの提供後も、新たに生成された児童ポルノ素材を検出して、プラットフォーム上の安全性を高める取り組みを行なっていく。
Thornによれば、生成AIにより、児童ポルノ素材(CSAM、child sexual abuse material)を生成したり、大量に画像を作成したりすることが容易になっており、新たな被害を拡大・複雑化させるものとして懸念しているという。
生成AIを通して出力されることで、学習元データにある被害児童の特定が非常に難しくなっているほか、ポーズだけを変えるなどの技術・操作で、性的でないイメージの画像に対して性的なイメージを加えた、コラージュ画像のような画像の生成も容易になっている。
また、生成AIで大量に児童ポルノ素材が供給されることによって、社会が鈍感になることへの懸念も指摘。児童ポルノ素材への接触と犯罪の間には関連性があるとし、犯罪拡大の温床になるとしている。このほか、生成AIは児童への性的虐待を実際に行なおうとする者に“アドバイス”ができるとも指摘、積極的な対策の必要性は明らかとしている。
| # | 言葉 | 意味 |
|---|---|---|
| 11 | 生成 | せいせい (生成) : creation; generation; formation; derivation |
| 5 | 児童ポルノ | じどうポルノ (児童ポルノ) : child pornography |
| 5 | 素材 | そざい (素材) : 1. ingredient; (raw) material; resource 2. unprocessed timber; raw timber |
| 4 | 性的虐待 | せいてきぎゃくたい (性的虐待) : sexual abuse |
| 4 | 画像 | がぞう (画像) : image; picture; portrait |
| 3 | 守る | まもる (守る) : 1. to protect; to guard; to defend 2. to keep (i.e. a promise); to abide (by the rules); to observe; to obey; to follow |
| 3 | 原則 | げんそく (原則) : 1. principle; general rule 2. as a rule; in principle; in general |
| 3 | 関連 | かんれん (関連) : relation; connection; relevance |
| 3 | 取り組み | とりくみ (取り組み) : 1. bout (in sports, etc.); match 2. effort; initiative; dealing with; grappling with; wrestling with |
| 2 | 発表 | はっぴょう (発表) : announcement; publication; presenting; statement; communique; making known; breaking (news story); expressing (one's opinion); releasing; unveiling |
| 2 | 企業 | きぎょう (企業) : enterprise; business; company; corporation |
| 2 | 公約 | こうやく (公約) : public commitment; public promise; campaign pledge; official vow |
| 2 | 進める | すすめる (進める) : 1. to advance; to move forward; to put (a clock, watch) forward 2. to carry forward (plans, work, etc.); to proceed with; to make progress in; to further; to advance; to hasten; to speed up |
| 2 | 非営利団体 | ひえいりだんたい (非営利団体) : nonprofit organization; nonprofit organisation |
| 2 | 各社 | かくしゃ (各社) : all companies; each company |
| 2 | 製品 | せいひん (製品) : manufactured goods; finished goods; product |
| 2 | 学習 | がくしゅう (学習) : study; learning; tutorial |
| 2 | 検出 | けんしゅつ (検出) : detection; sense (e.g. sensor) |
| 2 | 新た | あらた (新た) : new; fresh; novel |
| 2 | 行なう | おこなう (行う) : to perform; to do; to conduct oneself; to carry out |
| 2 | よる | よる (因る) : 1. to be due to; to be caused by 2. to depend on; to turn on |
| 2 | たり | たり : 1. -ing and -ing (e.g. "coming and going") 2. doing such things as... |
| 2 | 大量 | たいりょう (大量) : large quantity; massive (quantity); mass (e.g. mass production, mass transit, mass destruction) |
| 2 | 容易 | ようい (容易) : easy; simple; plain |
| 2 | 被害 | ひがい (被害) : (suffering) damage; injury; harm |
| 2 | 拡大 | かくだい (拡大) : magnification; enlargement; expansion; amplification |
| 2 | 懸念 | けねん (懸念) : worry; fear; anxiety; concern |
| 2 | 児童 | じどう (児童) : children; juvenile |
| 2 | 性的 | せいてき (性的) : 1. (relating to) gender 2. sex; sexual |
| 2 | 指摘 | してき (指摘) : pointing out; identification |
| 2 | 犯罪 | はんざい (犯罪) : crime; offence; offense |
| 1 | 業界団体 | ぎょうかいだんたい (業界団体) : industry group |
| 1 | 目的 | もくてき (目的) : purpose; goal; aim; objective; intention |
| 1 | 主要 | しゅよう (主要) : chief; main; principal; major |
| 1 | 遵守 | じゅんしゅ (遵守) : observance (of laws, rules, etc.); adherence; obeying; following; abiding by; compliance |
| 1 | 記事 | きじ (記事) : article; news story; report; account |
| 1 | 関する | かんする (関する) : to concern; to be related |
| 1 | 活動 | かつどう (活動) : 1. activity (of a person, organization, animal, volcano, etc.); action 2. movie (esp. during the silent movie period) |
| 1 | 倫理的 | りんりてき (倫理的) : ethical |
| 1 | 人間 | にんげん (人間) : 1. human being; human; person; man; mankind; humankind 2. character (of a person) |
| 1 | 中心 | ちゅうしん (中心) : 1. center; centre; middle; heart; core; focus; pivot; emphasis; balance 2. -centered; -centred; -focused; -oriented; centered on; focused on |
| 1 | 技術開発 | ぎじゅつかいはつ (技術開発) : technological development |
| 1 | 働きかける | はたらきかける (働きかける) : 1. to work on (someone); to appeal to; to make approaches to; to pressure; to exert influence on; to seek action from 2. to begin to work |
| 1 | 協力 | きょうりょく (協力) : cooperation; collaboration |
| 1 | 連携 | れんけい (連携) : cooperation; coordination; link |
| 1 | 表明 | ひょうめい (表明) : declaration; indication; representation; manifestation; demonstration; expression; announcement; assertion |
| 1 | 業務 | ぎょうむ (業務) : business; affairs; duties; work; procedure; task; action; function; (business) operations; operational |
| 1 | 参画 | さんかく (参画) : taking part (in planning); participation |
| 1 | 活用 | かつよう (活用) : 1. practical use; application 2. conjugation; inflection |
| 1 | まとめる | まとめる (纏める) : 1. to collect; to put (it all) together; to integrate; to consolidate; to unify 2. to summarize; to aggregate |
| 1 | 組み込む | くみこむ (組み込む) : to insert; to include; to incorporate; to cut in (printing) |
| 1 | 対応 | たいおう (対応) : 1. correspondence (to); equivalence 2. suitability; coordination; matching; being appropriate (for) |
| 1 | 進捗状況 | しんちょくじょうきょう (進捗状況) : state of progress |
| 1 | 公開 | こうかい (公開) : opening to the public; making available to the public; putting on display; exhibiting; showing (play, movie, etc.); holding (interview, etc.); open; public |
| 1 | 開発 | かいはつ (開発) : development; exploitation |
| 1 | 段階 | だんかい (段階) : grade; level; stage; class; phase; steps; order; gradation |
| 1 | 除去 | じょきょ (除去) : removal; getting rid of |
| 1 | 確認 | かくにん (確認) : confirmation; verification; validation; review; check; affirmation; identification |
| 1 | 当局 | とうきょく (当局) : 1. authorities; relevant authorities; authorities concerned 2. this office |
| 1 | 報告 | ほうこく (報告) : report; information |
| 1 | 仕組み | しくみ (仕組み) : 1. structure; construction; arrangement; contrivance; mechanism; workings 2. plan; plot; contrivance |
| 1 | 確立 | かくりつ (確立) : establishment; settlement |
| 1 | 提供 | ていきょう (提供) : 1. offer; tender; providing; supplying; making available; donating (blood, organs, etc.) 2. sponsoring (a TV program) |
| 1 | 安全性 | あんぜんせい (安全性) : safety; security |
| 1 | 高める | たかめる (高める) : to raise; to lift; to boost; to enhance |
| 1 | 作成 | さくせい (作成) : drawing up (e.g. legal document, contract, will, etc.); preparing; writing; framing; making; producing; creating; creation |
| 1 | 複雑化 | ふくざつか (複雑化) : complication |
| 1 | 出力 | しゅつりょく (出力) : output (electrical, signal, etc.) |
| 1 | 特定 | とくてい (特定) : 1. specific; particular; designated; special 2. specifying; designating; identifying; pinpointing |
| 1 | 非常 | ひじょう (非常) : 1. emergency 2. extraordinary; unusual |
| 1 | 操作 | そうさ (操作) : 1. operation; management; handling 2. manipulating (to one's benefit); manipulation; influencing |
| 1 | 対する | たいする (対する) : 1. to face (each other); to be facing 2. to be directed toward (the future, etc.); to be in response to; to be related to |
| 1 | 加える | くわえる (加える) : 1. to add; to add up; to sum up; to append; to annex 2. to increase; to gather (e.g. speed); to pick up |
| 1 | 供給 | きょうきゅう (供給) : supply; provision |
| 1 | 鈍感 | どんかん (鈍感) : thickheaded; insensitive; dull; thick-skinned |
| 1 | 接触 | せっしょく (接触) : touch; contact |
| 1 | 関連性 | かんれんせい (関連性) : relatedness; associativity; relation; relationship; relevance |
| 1 | 温床 | おんしょう (温床) : hotbed; breeding ground |
| 1 | 実際 | じっさい (実際) : 1. reality; actuality; truth; fact; actual conditions 2. practice (as opposed to theory) |
| 1 | 積極的 | せっきょくてき (積極的) : positive; assertive; active; proactive; aggressive |
| 1 | 対策 | たいさく (対策) : measure; step; countermeasure; counterplan; countermove; strategy; preparation (e.g. for a test) |
| 1 | 必要性 | ひつようせい (必要性) : necessity |
| 1 | 明らか | あきらか (明らか) : 1. clear; obvious; evident; plain; definite 2. bright; light |