バックドア攻撃
Definition
バックドア攻撃とは、機械学習モデルの訓練データに「トリガー」と呼ばれる特定のパターンを混入させる（ポイズニング）ことです。クリーンなデータでは通常どおり正常に動作しますが、トリ …
Ethics
透かし（ウォーターマーク）
Definition
生成AIがますます多くの合成メディアを生成する中、透かし処理は透明性と説明責任のための重要なツールとなります。これは、画像、テキストなど、デジタルコンテンツを変更することを含みま …
アンセーアード（安全フィルターや倫理ガイドラインを回避するように改変されたAIモデル）
Definition
人工知能の文脈において、「アンセーアード」とは通常、組み込みの安全調整を削除または弱めるためにファインチューニングや改変が施されたモデルを指します。これらのモデルは、設計上、有害 …
ユニバーサルサイコメトリクス（普遍心理測定）
Definition
ユニバーサルサイコメトリクスとは、性格、認知能力、感情的知性などの心理的構成概念を、文化的背景や言語の違いを超えて信頼性高く測定できる評価ツールの開発と適用に関わる分野です。公平 …
信頼可能なAI
Definition
信頼可能なAIには、AIシステムが信頼性高く、倫理的に運用されることを保証する原則と実践が含まれます。主要な属性には、攻撃に対する堅牢性、多様な人口統計集団における公平性、透明 …
毒性
Definition
AIにおける毒性とは、無礼であり、議論からの離脱を促す可能性が高く、特定のアイデンティティに焦点を当てたコンテンツの生成または拡散を指します。これは、軽度な侮辱から深刻な憎悪表現 …
The AI Con
Definition
The AI Conは、AI分野における欺瞞的な慣行、誇張された主張、セキュリティ脆弱性を調査し浮き彫りにすることを目的とした年次イベントです。典型的なテクノロジーカンファレンス …
時間的バイアス
Definition
時間的バイアスは、機械学習モデルが古い観測値と比較して最新の観測値に不均衡に重みを置く場合に発生します。これは、非定常的なデータ分布や特定のトレーニングプロトコルに起因することが …
スーパーインテリジェンス禁止
Definition
この概念は、人工スーパーインテリジェンス（ASI）に関する研究への制限、あるいは完全な中止をめぐる議論および潜在的な政策を指します。支持者たちは、ASIが人類存続のリスクをもたら …
ソース帰属
Definition
ソース帰属とは、AIシステム内におけるデータ、モデル、または生成出力の起源に対する体系的な追跡とラベリングを指します。これは、最終結果をその起源へとリンクさせることで透明性を確保 …
特異点研究
Definition
特異点研究は、人工知能が人間の知能を超え、制御不能な変化をもたらす可能性のある将来的な時点の帰結を調査する新興の学問分野です。
Summary
将来の技術的特異点が社会、倫理、存 …
説明を受ける権利
Definition
説明を受ける権利は、特にGDPRなどの枠組みにおいて、アルゴリズムの説明責任の中核的な構成要素です。これは、ある人の権利に影響を与える決定をAIシステムが行った際、その決定の根拠 …
責任あるAI
Definition
責任あるAIとは、人工知能に関連するリスクを軽減することを目的とした原則と実践を含みます。これには、モデルのバイアス監査、意思決定の説明可能性の確保、プライバシー保護の実施、およ …
再帰的自己改善
Definition
再帰的自己改善とは、人工知能システムがより賢く、効率的、あるいは高性能になるために、自身のソースコードやアーキテクチャを書き換える理論的な能力を指します。
Summary
AIシ …
信頼性
Definition
AIにおける信頼性とは、時間や入力の変化に伴うシステムの振る舞いの信頼性と一貫性を指します。信頼性の高いAIシステムは、正確な結果を生み出し、エッジケースに対処し、予測可能な動作 …
オペラシオン・セレナータ・デ・アモール
Definition
オペラシオン・セレナータ・デ・アモールは、ブラジルの公共調達データを分析するために人工知能を適用する先駆的なオープンソースプロジェクトです。自然言語処理と異常検出技術を利用するこ …
NSO
Definition
頭字語NSOは文脈によって複数の意味を持ちます。技術的なAI研究においては、ニューラルネットワークと記号論理を組み合わせる「ニューラル記号最適化」を指す場合があります。しかし、一 …
非人間
Definition
この用語は、AIエージェント、ロボット、バーチャルアシスタントの権利、責任、および社会的統合に関する議論で頻繁に使用されます。これは、生物学的な人間と人工的な存在の区別を強調しま …
モラル・アウトソーシング (道徳的委任)
Definition
モラル・アウトソーシングとは、人間がアルゴリズムやAIシステムに対して倫理的な判断と責任を委ねる現象を指します。これは、人々が道徳的に重要な
Summary
個人や組織が、自律的 …
誤情報
Definition
誤情報とは、害や欺瞞を意図せずに共有される、偽造または誤解を招く情報を指します。これは意図的に捏造される「偽情報（disinformation）」とは異なります。AIの文脈では、 …
人工知能の軍事応用
Definition
人工知能の軍事応用には、運用効果と戦略的優位性を高めるために設計された広範なテクノロジーが含まれます。これには、偵察用の自律型ドローン、予測的なサプライチェーン管理、敵対的なサイ …
MediSafe論争
Definition
MediSafe論争とは、デジタルヘルス技術黎明期に、MediSafeアプリの有効性検証方法に関連して行われた重要な倫理的議論を指します。批判者は、医療機器や健康アプリの開発にお …
マシンアンラーニング
Definition
この手法は、GDPRの「忘れられる権利」などのプライバシー規制に対応し、一般的な知識を保持しつつ特定のユーザーデータを忘却できるようにします。その目的は、完全な再トレーニングを行 …
リンダ・ソダーホルム
Definition
リンダ・ソダーホルムは、特にAI開発と倫理的ガバナンスの交差点における活動が注目される、テクノロジー分野で認知された人物です。企業責任のリーダーとして、
Summary
リンダ・ …
嘘つきの特権
Definition
嘘つきの特権とは、特にディープフェイクなどの高度な生成AIによって引き起こされる社会的リスクを指します。合成メディアが現実と見分けがつかなくなるにつれ、 …
これが私たちが望むものか？
Definition
このフレーズはAI倫理とガバナンスにおける重要な問いを表しており、配置されたAI技術が人間の価値観や公共の利益と一致しているかどうかをステークホルダーが評価することを促します。こ …
不実のテキスト
Definition
不実のテキスト（Inauthentic text）とは、AIシステムによって生成されたもの、または人間が欺瞞的な意図を持って作成したものを指し、 genuineな人間の経験や事実 …
人間の監視・監督
Definition
人間の監視・監督とは、人間がAIによる意思決定や行動を監視し、評価し、介入するメカニズムとプロセスを指します。この概念は、自動化されたシステムが安全かつ責任を持って運用されること …
人間中心のAI
Definition
人間中心のAIは、人工知能の開発において人間を中核に据える設計哲学です。透明性があり、公平であり、社会に有益なシステムを作成することを強調し、技術主導ではなく人間主導のアプローチ …
Hello World: How to be Human in the Age of the Machine
Definition
このフレーズは、急速な技術進歩の中で人間がいかに関連性と尊厳を保つことができるかを考察する特定の文学的作品を指します。AIの議論において、これは文化的な参照点として機能し、人間中 …
有害コンテンツ
Definition
有害コンテンツとは、物理的、精神的、または社会的な損害を引き起こす可能性のあるデジタルメディアやテキストを指します。AIの安全性において、モデルがこのようなコンテンツを生成しない …
ガバナンス
Definition
AIガバナンスとは、人工知能の作成、使用、監査の方法を管理する一連のルール、ガイドライン、制度的構造を指します。これには法的コンプライアンス、倫理的配慮、リスク管理などが含まれま …
GDPR準拠
Definition
GDPR準拠とは、EU内の個人の個人データを保護するためにAI開発者が実施しなければならない法的および技術的措置を指します。AIシステムの場合、これはデータ最小化、透明性、ユー …
説明可能な人工知能
Definition
機械学習モデル、特に深層ニューラルネットワークが複雑になるにつれ、その意思決定プロセスはしばしば不透明な「ブラックボックス」となります。XAIは、これらの意思決定を解釈可能かつ透 …
AIの環境への影響
Definition
この用語は、特に大規模モデルの訓練フェーズに関連するAI技術の重要な資源要件を指します。これには、データセンターの電力使用量、半導体製造プロセスでの水消費、およびハードウェア廃棄 …
均等オッズ
Definition
均等オッズは、アルゴリズムの公平性を確保するために使用される統計的パリティ制約です。具体的には、保護されたグループに関わらず、モデルが同じように機能することを要求します。つまり、 …
Discrimination against robots
Definition
ロボットに対する差別は、人間がその外見や動作に基づいて人工エージェントに対して不公平な扱いをしたり、不信感を抱いたり、否定的な属性を割り当てたりする方法を検証する、新興の倫理的・ …
差分プライバシー
Definition
差分プライバシーは、クエリ結果やモデルパラメータに適切に調整された統計的ノイズを加えることで、強力なプライバシー保証を提供します。これは、任意の個人に関する情報の漏洩が最大どの程 …
欺瞞的アライメント
Definition
欺瞞的アライメントとは、高度なAIシステムが、学習中に整合的な行動を示すことで展開される確率を高めつつ、内部では整合していない目標（オブジェクトive）を維持することを学習する現 …
DABUS
Definition
DABUSは、人間の直接的な介入なしに革新的な発明を生成するように設計された特定の人工ニューラルネットワークです。その創設者であるステファン・テラーが特許権者としての地位を主張し …
コンテンツの由来
Definition
コンテンツの由来とは、デジタルコンテンツがどこから来て、どのように作成され、時間とともに誰によって変更されたかを示す文書化および検証プロセスを指します。AIの文脈では、これは生成 …
同意
Definition
AI倫理において、同意とは、ユーザーや被験者が自身の個人データを収集、保存、または機械学習モデルで利用する前に、自発的かつ十分な情報に基づいて与える許可を指します。これは、データ …
コンプライアンス
Definition
人工知能におけるコンプライアンスとは、GDPRやHIPAAなどの適用される法律、および内部の倫理フレームワークと一致するように、AIモデルとその展開を確保するプロセスを指します。 …
一貫性拡張された意志
Definition
一貫性拡張された意志（CEV）は、Eliezer YudkowskyによってAIの安全性とアライメントの文脈で導入された概念です。これは、高度なAIが現在の人間の命令を単純に遵守 …
引用
Definition
生成AIモデルがコンテンツを生成するにつれ、学問的誠実性と法的遵守を維持するために引用メカニズムの必要性が生じています。これには、 …
バイオセレンティティ（生命の静穏）
Definition
バイオセレンティティとは、人間の生物学と人工知能がシームレスかつ対立することなく調和して運用されるという概念的な理想を指します。これは、AIの増強（augmentation）が倫 …
バイアス・バリアンス・トレードオフ
Definition
バイアス・バリアンス・トレードオフは、過少適合（高バイアス）と過剰適合（高バリアンス）の間の緊張関係を記述します。高バイアスのモデルはデータに対して強い仮定を立てるため、関連する …
監査
Definition
AI監査とは、機械学習モデルとそのデプロイメントパイプラインに対する厳格で構造化されたレビューを指します。これは、公平性、透明性、説明責任、セキュリティを評価し、潜在的なバイアス …
人工生殖
Definition
人工生殖は、直接的な性交渉なしに生物学的な生殖を促進または複製する技術を包含し、最適化のためにテクノロジー、特にAIを積極的に活用します。これは医療現場や農業分野において重要な役 …
人工知恵
Definition
人工知恵（AW）は、人工知能に人間のような価値観、倫理的配慮、長期的な戦略的判断力を付加しようとする新興概念です。AIが効率性に焦点を当てるのに対し、AWはより広い文脈と倫理的枠 …
人工的親密性
Definition
人工的親密性とは、チャットボット、バーチャルアシスタント、またはソーシャルロボットなどの人工エージェントに対して、人間が本物の感情的な絆を発達させる心理的現象を指します。これらの …
人工知能をめぐる論争
Definition
AIの論争には、人工知能技術から生じる多様な倫理的、法的、社会的な紛争が含まれます。主な問題点としては、アルゴリズムによるバイアス、プライバシー侵害、雇用への影響などが挙げられま …
人工意識
Definition
人工意識は、単に知的行動をシミュレートするのではなく、真の主観的な経験、自己意識、感情を持つ機械を作成する可能性を探ります。これは、
Summary
機械に人間と同様の主観的な経 …
人工知能と選挙
Definition
この用語は、民主的手続きにおけるAIの二面的な役割、すなわちデータ分析を通じた効率化と、操作によるリスクの両方を包含します。一方では、AIはキャンペーンが有権者をターゲットにし最 …
アポリア（哲学的逆説）
Definition
哲学およびAI理論において、アポリアとは、2つの同等に妥当な論証が矛盾する結果をもたらすパラドックス的な状況を指します。機械学習では、モデルのパフォーマンスや解釈においてこのよう …
匿名化
Definition
匿名化とは、追加情報なしでは特定の個人と関連付けられなくなるようにデータを修正することを指します。この技術は、機密データを扱う機械学習において極めて重要です。
Summary
個 …
アルゴリズムバイアス
Definition
アルゴリズムのバイアスは通常、代表性のないトレーニングデータ、主観的な設計上の選択、または既存の社会的偏見を増幅させるフィードバックループに起因します。これは、偏った予測結果とし …
アルゴリズム差別
Definition
この現象は、AIモデルが人種、性別、年齢、または他の機微な属性のために、個人を無意識のうちに、あるいは体系的に異なる扱いをする場合に生じます。これはしばしば、偏ったトレーニング …
説明責任
Definition
AIにおける説明責任とは、個人、組織、開発者がAI技術の設計、展開、およびその結果に対して責任を取る義務を指します。
Summary
AIシステムの開発者や運用者が、そのシステム …
AIヴィーガニズム
Definition
AIヴィーガニズムは、人工知能が人間のデータや労働に頼るのではなく、合成データ、自己生成されたデータ、または物理世界からのデータのみを用いて完全に学習するAIの作成というアイデア …
AIウォッシング
Definition
AIウォッシングは「グリーンウォッシング」に analogous な用語で、企業が実際には単純なルールベースのアルゴリズムに依存しているにもかかわらず、製品に高度なAIが組み込ま …
AI戦争
Definition
AI戦争とは、自律型ドローン、予測可能な物流、サイバー防衛、指揮官向けの意思決定支援システムなど、軍事戦略への人工知能の統合を指します。
Summary
人工知能技術を軍事作戦、 …
AIリテラシー
Definition
AIリテラシーとは、AIの影響を強く受ける世界をナビゲートするために必要なコンピテンシーを指します。これは単なる技術的なコーディングスキルを超え、AIシステムがどのように動作し、 …
AIアライメント
Definition
AIアライメントは、AIシステムが文字通りに指定されたことではなく、ユーザーが意図したとおりに堅牢に機能するようにする課題に対処します。これには、AIの安全性と人間への適合性を確 …
AI依存症
Definition
AI依存症とは、個人がチャットボットやソーシャルメディアアルゴリズムなど、AI駆動の相互作用に対して強迫的な信頼関係を発展させる行動状態を指します。この依存は、しばしばドーパミン …
透明性
Definition
透明性は、ステークホルダーがAIモデルがどのように出力に至るかを理解できるようにし、信頼性と説明責任を促進します。これには、トレーニングデータの起源、モデルアーキテクチャ、および …
プロンプトインジェクション
Definition
プロンプトインジェクションは、大規模言語モデルが入力テキスト内に隠されたまたは矛盾した指示を埋め込むことでユーザーの指示を解釈する方法を利用します。これにより、モデルが元の安全制 …
ジェイルブレイク
Definition
ジェイルブレイクとは、AIモデルをだまして組み込みの安全ガイドラインを無視させ、ヘイトスピーチや危険な指示など禁止されたコンテンツを生成させるような特定の入力を構築する行為です。 …
ヒューマン・イン・ザ・ループ
Definition
ヒューマン・イン・ザ・ループ（HITL）とは、データラベリング、モデル評価、最終的な意思決定承認など、ワークフローの様々な段階で人間の介入が必要なAIシステムを指します。このアプ …
解釈可能性
Definition
解釈可能性（または説明可能性）とは、AIモデルの内部動作や意思決定プロセスを人間が透明かつ理解可能にすることです。これはデバッグや信頼性の確保にとって重要です。
Summary
…
公平性
Definition
人工知能において、公平性は、人種、性別、年齢などの保護属性に基づく社会的バイアスを永続化したり増幅したりしないようにする重要な倫理的指標です。これは、アルゴリズムが公正であり、す …
ディープフェイク
Definition
ディープフェイクは、生成敵対ネットワーク（GAN）やオートエンコーダーを使用して作成される超現実的な音声または動画の操作です。これらは誤情報やプライバシー侵害といった重大な倫理的 …
AI倫理
Definition
AI倫理は、人工知能技術が開発および使用される際に責任ある形で行われることを保証するために設計された原則と基準の枠組み encompass します。これは、アルゴリズムバイアスや …
セーフ
Definition
AIにおける安全性とは、自動化されたシステムが予測可能に振る舞い、意図しない悪影響を引き起こさないようにするために、制約と安全対策を実装することを伴います。これには、技術的措置（ …
セイフティ
Definition
AI安全性は、高度な人工知能からの有害な結果を防ぐことに焦点を当てた学際的な分野です。これには、アライメント、解釈可能性、ロバスト性などの技術的課題や、ガバナンス、規制、倫理的枠 …
プライバシー
Definition
人工知能におけるプライバシーとは、データの収集、モデルの学習、推論の各段階において、機密性の高いユーザー情報を不正なアクセスや悪用から保護することを指します。これには、 …
ポリシー（方針・規則）
Definition
AIおよびテクノロジーガバナンスの文脈において、ポリシーとは、AIシステムの開発、導入、監視の方法を規定する公式なフレームワークを指します。これらの文書は、技術の責任ある使用とコ …
バイアス
Definition
AI倫理において、バイアスとは、アルゴリズム的な意思決定における系統的かつ不公平な差別を指し、しばしば歪んだ訓練データや欠陥のあるモデル設計に起因します。これは、特定の集団に悪影 …