このレッスンは日本語に自動翻訳されたもので、まだ人によるチェックを受けていません。表現に違和感がある場合は、英語の原文が正となります。
AI が顔を認識し、言語を翻訳し、曲を推奨できることはすでにご存知でしょう。しかし、実際にこれらすべてに力を与えているものは何でしょうか? データ。 データがなければ、AI は燃料のない車のようなもので、どこにも行くことができません。
このレッスンでは、データセットがどのようなものであるか、AI が使用するさまざまな種類のデータ、およびそのデータの品質が非常に重要である理由を探っていきます。
データセットは、AI システムが学習する情報の組織化されたコレクションです。これを巨大なスプレッドシートと考えてください。
ImageNet データセットには、20,000 以上のカテゴリにわたる 1,400 万を超える手作業でラベル付けされた画像が含まれています。これを構築するには研究者が何年もかかり、何千人ものヒューマン アノテーターが必要でした。
AI は、次の 2 つの大まかなカテゴリのデータを処理します。
これは、銀行取引ログや病院の患者記録など、行と列を含むテーブルにきちんと収まるデータです。各フィールドには明確なタイプ (数値、日付、カテゴリ) があります。
例: 売上高、センサーの測定値、アンケートの回答。
決まった形式に従わないデータです。これには、画像、ビデオ、音声録音、電子メール、ソーシャル メディアの投稿が含まれます。世界のデータの 80% 以上が非構造化データです。
例: 携帯電話上の写真、音声メッセージ、ニュース記事。
非構造化データの例は次のうちどれですか?
人間は、ほんの数枚の写真を見ただけで犬を認識できるようになります。通常、AI が同じことを行うには、数千、場合によっては数百万のサンプルが必要です。それは、AI には世界を理解する機能が組み込まれていないからです。すべての知識はデータから得られる必要があります。
データが多様で代表的であるほど、AI は新しい状況にうまく一般化できます。ゴールデンレトリバーの写真のみでトレーニングされたモデルは、プードルを認識できない可能性があります。データの多様性は AI の堅牢性につながります。
これが、企業が大規模なデータセットの収集、クリーニング、キュレーションに多額の投資を行う理由です。これは、多くの場合、AI システムの構築において最も時間と費用がかかる部分です。
良いニュースは、高品質のデータセットが存在すると、それを再利用して共有できるため、世界中で研究が加速されることです。
AI の能力は、学習に使用するデータによって決まります。データが乱雑、不完全、または不正確な場合、AI は信頼性の低い結果を生成します。この原則は ガベージイン、ガベージアウト (GIGO) として知られています。
一般的なデータ品質の問題には次のようなものがあります。
サインイン してディスカッションに参加
あなたが試験の勉強をしているときに、教科書のページの半分が欠けていて、後ろの答えの一部が間違っていると想像してください。どれくらい上手にパフォーマンスできるでしょうか? AI が低品質のデータでトレーニングすると、まさにそれが起こります。
いくつかのデータセットは AI コミュニティで有名になりました。
|データセット |内容 |サイズ | |-------|------|------| | イメージネット |ラベル付き写真 | 1,400 万以上の画像 | | 一般的なクロール |インターネット上の Web ページ |ペタバイトのテキスト | | ウィキペディア |百科事典の記事 | 6,000 万以上の記事 | | MNIST |手書きの数字 (0 ~ 9) | 70,000 枚の画像 |
これらのデータセットは無料で利用でき、歴史上最も影響力のある AI モデルのいくつかをトレーニングするために使用されてきました。
MNIST データセットには何が含まれていますか?
AI がデータから学習できるようになる前に、通常、誰かがデータに ラベル する必要があります。これは、各例が何を表すかをシステムに伝えることを意味します。
このプロセスは アノテーション と呼ばれ、多くの場合人間によって行われ、場合によっては数千人が共同作業します。
多くの AI 企業はクラウドソーシング プラットフォームを使用しており、世界中の労働者が 1 項目あたりわずか数ペンスの料金でデータにラベルを付けることができます。これは、ほとんどの人が目にすることのない大規模な世界的な取り組みです。
データは、世界の偏見も含めて、そのデータが由来する世界を反映しています。データセットがあるグループを過剰に表したり、別のグループを過小表したりすると、そのデータセットでトレーニングされた AI はそれらの不均衡を継承します。
データバイアスの実例:
偏見は単なる技術的な問題ではなく、社会的な問題でもあります。すべてのデータセットには、それを作成した人々の思い込みや盲点が含まれています。
レストランを推奨するように AI をトレーニングし、ロンドンのデータのみを与えた場合、マンチェスターにいる人に適切な推奨を提供できるでしょうか?何が間違っているのでしょうか?
偏ったデータに基づいて AI をトレーニングすると、最も考えられる結果は何ですか?
次に、このすべてのデータを実際に処理してインテリジェンスに変える アルゴリズム について見ていきます。