モデル抽出
Definition
モデル抽出では、攻撃者はターゲット機械学習モデルのAPIをクエリして、その内部構造、重み、または意思決定境界を推測します。これらのクエリを使用して、元のモデルの挙動を模倣するサロ …
Security
透かし（ウォーターマーク）
Definition
生成AIがますます多くの合成メディアを生成する中、透かし処理は透明性と説明責任のための重要なツールとなります。これは、画像、テキストなど、デジタルコンテンツを変更することを含みま …
主権AI
Definition
主権AIとは、外国のクラウドプロバイダーや独占的な技術への依存なしに、国や組織が人工知能システムを独自に構築、展開、管理する能力を指します。
Summary
データプライバシーと …
スロパガンダ
Definition
スロパガンダは、ウイルス性の衝撃戦術ではなく、反復、曖昧さ、長期間の露出に依存する戦略的な虚偽情報の形態を記述します。これは、聴衆を混乱させ、真実を希釈し、信頼を… …
頑健性（ロバストネス）
Definition
AIの安全性と倫理において、頑健性とは予期しない入力や悪意のある操作に対するモデルの耐性を指します。頑健なシステムは、入力データにノイズが含まれていても正しく機能し続けます。 …
AIへの抵抗
Definition
AIへの抵抗とは、個人や組織がAIアルゴリズムによる影響、追跡、分類を避けるために使用する手法を指します。これには、知覚システムに対する敵対的攻撃（adversarial …
レートリミティング
Definition
レートリミティングは、AIサービスやAPIが悪用されたり、過負荷になったり、リソースが過剰に消費されたりするのを防ぎます。スループットを制限することでユーザー間の公平な利用を確保 …
新奇検出
Definition
新奇検出は、期待される動作や既知のクラスに適合しないデータポイントを特定することに重点を置いた機械学習のタスクです。通常、教師なし方式で動作し、正常なデータの分布を学習して、それ …
母国語識別
Definition
母国語識別（NLI）は、自然言語処理の一分野であり、話者が最初に習得した言語を認識することに焦点を当てています。一般的な言語検出とは異なり、NLIは話者の
Summary
話者の …
不実のテキスト
Definition
不実のテキスト（Inauthentic text）とは、AIシステムによって生成されたもの、または人間が欺瞞的な意図を持って作成したものを指し、 genuineな人間の経験や事実 …
差分プライバシー
Definition
差分プライバシーは、クエリ結果やモデルパラメータに適切に調整された統計的ノイズを加えることで、強力なプライバシー保証を提供します。これは、任意の個人に関する情報の漏洩が最大どの程 …
データポイズニング
Definition
この敵対的技術は、トレーニングデータを変更することで機械学習モデルの整合性を損なうことを目的としています。微妙なエラーやバイアスのある例を導入することで、攻撃者はモデルの判断を歪 …
サイバーセキュリティ
Definition
サイバーセキュリティとは、ネットワーク、コンピュータ、プログラム、データを攻撃、破壊、または不正アクセスから保護するために設計された技術、プロセス、慣行の総称です。AIの文脈で …
コンテンツの由来
Definition
コンテンツの由来とは、デジタルコンテンツがどこから来て、どのように作成され、時間とともに誰によって変更されたかを示す文書化および検証プロセスを指します。AIの文脈では、これは生成 …
異常検知
Definition
異常検知（外れ値検出とも呼ばれます）は、期待される動作に適合しないパターンを見つけるためにデータを分析するものです。サイバーセキュリティ、不正検知、システム監視などで広く使用され …
敵対的機械学習
Definition
この分野には、モデルを破壊するための攻撃的な技術と、それを強化するための防御的戦略の両方が含まれます。これには、モデルの耐性を高めるために敵対的例を用いてトレーニングを行うプロセ …
敵対的攻撃
Definition
敵対的攻撃は、画像やテキストなどの入力に微妙なノイズを導入することでニューラルネットワークの脆弱性を突き、モデル出力に重大なエラーを引き起こします。これらの攻撃は、モデルの安全性 …
AIセキュリティ研究所
Definition
AIセキュリティ研究所とは、人工知能技術に関連するリスクを軽減することに特化した専門機関です。これらの研究所は、敵対的攻撃やデータプライバシーなどの問題に関する研究を実施し、安全 …
プロンプトインジェクション
Definition
プロンプトインジェクションは、大規模言語モデルが入力テキスト内に隠されたまたは矛盾した指示を埋め込むことでユーザーの指示を解釈する方法を利用します。これにより、モデルが元の安全制 …
ジェイルブレイク
Definition
ジェイルブレイクとは、AIモデルをだまして組み込みの安全ガイドラインを無視させ、ヘイトスピーチや危険な指示など禁止されたコンテンツを生成させるような特定の入力を構築する行為です。 …
フェデレーテッドラーニング
Definition
フェデレーテッドラーニングにより、組織は機微な生データを共有することなく、共同でAIモデルを訓練することができます。情報を中央集約するのではなく、モデルをローカルデバイスに送信 …
データ保護
Definition
データ保護には、個人情報や機密データを侵害や悪用から守るために設計された法的、技術的、組織的な対策が含まれます。AIにおいては、暗号化の実装、アクセス制御、匿名化などの手法を通じ …
ディープフェイク
Definition
ディープフェイクは、生成敵対ネットワーク（GAN）やオートエンコーダーを使用して作成される超現実的な音声または動画の操作です。これらは誤情報やプライバシー侵害といった重大な倫理的 …
セーフ
Definition
AIにおける安全性とは、自動化されたシステムが予測可能に振る舞い、意図しない悪影響を引き起こさないようにするために、制約と安全対策を実装することを伴います。これには、技術的措置（ …