多様なデータと倫理慣行が責任ある AI エンジニアリングをどのように推進するか

カレン パネッタは、エンジニアリングに携わった結果、顔認識システムにおける重大なバイアスを特定し、人間の福祉を守る透明なテクノロジーを擁護するようになりました。

投稿者

• Esther Shittu、ニュースライター
• ショーン サトナー、シニア ニュース ディレクター

公開日:2025 年 7 月 1 日

カレン パネッタさんの工学学位取得への道は、彼女の買い物習慣は経済的に強いキャリアによって維持される必要があるという父親のアドバイスから始まりました。

コンピュータの構築と CPU の設計にしばらく時間を費やした後、IEEE フェローでタフツ大学大学院工学教育部長は学術界への参入を目指しました。しかし、彼女はエンジニアリング分野に大きな問題があることに気づきました。

「彼らは『女性のメンターとしてあなたを雇っている』と言ったんですが、最初のクラスに着くと、女性は誰もいませんでした」と、パネッタ氏は Informa TechTarget のターゲティング AI ポッドキャストの最新エピソードで語った。 「こうして私は、エンジニアリングに包括的な聴衆をもたらすための偶然の指導者、支持者、擁護者になったのです。」

その後、彼女が人身売買から子供たちを救う活動を始めたとき、その情熱は AI テクノロジーに移りました。

「顔認識用にトレーニングされたすべてのデータセットが、両耳を見せた状態で真正面から取得されていることに気づきました」とパネッタ氏は語った。 「データベースは主に有色人種と犯罪者のデータベースから取得したものです。つまり、そこには偏見があるということです。」

これに応えて、パネッタ氏と彼女のチームは、世界中の 3 歳から 78 歳までの多様な人々のデータベースを作成しました。画像には、サングラス、マスク、または異なる頭の回転など、さまざまなシナリオの人々が写っています。

「非常に純粋なデータで訓練されたAIは現実世界では機能しない」とパネッタ氏は語った。 「現実世界は自動的に AI に変換されるわけではありません。」

パネッタ氏は、AI テクノロジーは倫理的である必要もあると付け加えました。これは、人々やその生活に害を及ぼさないことを意味します。

「私たちが倫理的な AI について話すとき、それをどのように収集するか、人々の権利、そしてそれをどのように使用するかについて話しているのです。」

と彼女は言いました。

一方、責任ある AI とは、AI システムがその決定を下した理由を説明できることを意味すると彼女は言いました。

Esther Shittu は、Informa TechTarget のニュース ライターであり、AI ソフトウェアとシステムをカバーするポッドキャストのホストです。 Shaun Sutner は、Informa TechTarget の情報管理チームのシニア ニュース ディレクターであり、AI、分析、データ管理テクノロジー、ビッグテクノロジー、連邦規制に関する報道を推進しています。彼は30年以上の報道経験を持つベテランジャーナリストです。彼らは一緒に、Targeting AI ポッドキャストをカバーします。

AI テクノロジーをさらに深く掘り下げる

• 実際のエージェント AI の 11 の例と使用例

  投稿者:メアリー・プラット

• カスタマイズとコラボレーションに対する IBM のエンタープライズ AI ビジョン

  投稿者:Esther Shittu

• Black Girls Code の CEO は、AI の多様性にはすべての人が含まれると述べています

  投稿者:Esther Shittu

• Cerebras が Nvidia との競争にどのように取り組むか

  投稿者:Esther Shittu