ユニファイドモデル(統一モデル)
Definition
ユニファイドモデルとは、テキスト生成、画像認識、コード合成など、個別の専門モデルを必要とせずに、さまざまな異なるタスクを実行できる人工知能システムを指します。これにより、リソース …
ユニファイドモデルとは、テキスト生成、画像認識、コード合成など、個別の専門モデルを必要とせずに、さまざまな異なるタスクを実行できる人工知能システムを指します。これにより、リソース …
ロボティック・プロセス・オートメーション(RPA)は、AIで強化されたソフトウェアロボットを使用して、デジタルシステムに対する人間のインタラクションを模倣します。データ入力や請求 …
この用語は、おそらく混合专家(MoE)設計を活用するQwenファミリー内の特殊なアーキテクチャを指します。そのようなモデルでは、ニューラルネットワークのパラメータ(专家)の一部の …
量子化は、機械学習モデルのパラメータの数値精度を下げ、通常は32ビット浮動小数点数を8ビット整数に変換することでモデルを最適化する技術です。これにより、… …
プルーニングは、ニューラルネットワークにおいて出力精度にほとんど寄与しないニューロン、接続、またはフィルターを特定して除去するプロセスです。これらの冗長な要素を削除することで、モ …
プロンプトチューニングは、事前学習済み言語モデルの入力層にトレーニング可能なソフトプロンプト(連続ベクトル)を追加し、基盤となるモデルのパラメータは凍結したままにするアプローチで …
能動的学習では、AIシステムが不確実性を最も減少させたり、モデルの性能を向上させたりするために、どのサンプルが最も効果的かを決定します。これは、パッシブラーニング(受動的学習)と …
プレフィックスチューニングは、事前学習済みトランスフォーマーモデルに適応させるためのパラメータ効率的な手法です。モデルの全重みを更新する代わりに、学習可能な連続ベクトルのシーケン …
Phi(Teaching-Learning Paradigmに基づくファウンデーションモデルの略称)は、Microsoftによって作成されたコンパクトな大規模言語モデルのファミ …
P-Tuning(プロンプトチューニング)は、計算コストを最小限に抑えながら、大規模な事前学習済み言語モデルを特定のダウンストリームタスクに適応させるための手法です。すべてのモデ …
マルチタスク最適化は、単一のモデルを訓練して、同時にいくつかの区別されつつも関連するタスクを処理させることを含みます。タスク間で中間表現を共有することで、モデルはより汎用的な特徴 …
この手法は、関連するタスク間で共有される帰納的バイアスを活用し、学習効率とパフォーマンスを向上させます。単一のモデルで複数のタスクを同時に実行させることで、 …
Mixture of Experts (MoE) は、効率性とスケーラビリティを向上させるために設計された機械学習アーキテクチャです。すべてのタスクに単一の巨大なモデルを使用する …
このカテゴリには、パフォーマンスを維持しつつモデルのフットプリントを縮小することを目指した、プルーニング、量子化、知識蒸留などの手法が含まれます。これは複雑なAIモデルを展開する …
Mixtralは、スパースMixture of Experts(MoE)アーキテクチャを活用した先駆的なオープンウェイトLLMです。すべてのトークンに対して全パラメータを使用する …
DeepSeek V3は、DeepSeekモデルファミリーの先進的な反復版であり、エキスパートの混合ルーティングを通じて推論時にパラメータのごく一部のみを密に活性化させる特徴があ …
ビジネスプロセスオートメーション(BPA)は、複雑なビジネスワークフローを効率化するためにソフトウェアやAIを活用する取り組みです。ルールベースのタスクのみを処理する単純 …
バッチ処理とは、計算やモデル推論を実行する前に、データ入力を1つのグループ(バッチ)に集約するアプローチです。この方法は、リアルタイムのストリーミング処理とは対照的に、効率的なリ …
自動意思決定(ADM)は、以前は人間の判断を必要としていた選択をソフトウェアシステムが行うことに依存しています。クレジットスコアリング、コンテンツモデレーション、物流などで一般的 …
AutoML(Automated Machine Learning)は、データ前処理、特徴量エンジニアリング、モデル選択、ハイパーパラメータ調整などのタスクを自動化すること …
能動学習は、モデルが人間によるラベル付けにとって最も情報的なインスタンスを選択できるようにすることで、必要なラベル付きデータの量を削減します。ランダムなサンプルを待つのではなく、 …
ゼロショット学習により、機械学習モデルはトレーニングデータセットに含まれていなかったクラスのインスタンスを分類できます。考えられるすべてのクラスに対してラベル付き例に依存するので …
QLoRAは、低ランク適応(LoRA)と4ビット量子化を組み合わせることで、巨大なモデルのファインチューニングに必要なメモリフットプリントを大幅に削減します。重みを4ビット形式で …
フューショットラーニングは、人間のような学習効率を模倣し、わずかな例数からモデルが一般化できるようにすることを目的としています。通常、これはメタラーニング戦略に依存しており、モデ …
アダプターは、主に大規模言語モデルやトランスフォーマーで使用されるパラメータ効率の高いファインチューニング手法です。すべてのモデル重みを更新するという計算コストの高い作業の代わり …
トレーニングフリーのアプローチとは、逆伝播によって基礎的な重みを更新することなく、モデルの動作や出力を変更する技術を指します。これらの手法は、 …
事前学習済みモデルは、WikipediaやImageNetのような大規模で多様なデータセットに対して広範なトレーニングを受けた基盤となるAIモデルです。この初期トレーニングによ …
低コストAIは効率性を重視し、機械学習に伴う参入障壁と運用費用の削減を目指します。これには、モデル圧縮、量子化、剪定などの技術が含まれ、リソース制約のある環境での実装を可能にしま …
転移学習は、新しい関連タスクにおけるパフォーマンスの向上とトレーニング時間の短縮を実現するために、事前学習済みモデルを活用します。ゼロからトレーニングするのではなく、開発者は既存 …
Mambaは、ハードウェア対応の選択的状態空間モデル(SSM)を導入することで、シーケンスモデリングにおける重要な進展を表しています。従来のトランスフォーマーがシーケンス長に対し …
LoRAは事前学習済みモデルの重みを凍結し、トランスフォーマーアーキテクチャの各層に学習可能な分解行列を挿入します。この低ランク行列のみを最適化することで、LoRA …
AIの文脈において、「直接」とは、中間的な抽象化レイヤーをバイパスするアーキテクチャや推論パスを記述することが多いです。例えば、強化学習における直接方策最適化や、直接的なマッピン …
AIにおける自動化とは、従来人間の手が必要だったタスクを実行するために、アルゴリズムやシステムを使用することです。これは、事前に定義されたルールを実行したり、学習したりすること …