多様なデータと倫理的実践が責任あるAIエンジニアリングを推進
Karen Panettaのエンジニアリングの歩みが、顔認識システムの重大なバイアスを特定し、人間の福祉を守る透明な技術の推進へ
文:Esther Shittu(ニュースライター)、Shaun Sutner(シニアニュースディレクター)
公開日:2025年7月1日
Karen Panetta氏のエンジニアリング学位への道は、父親の「買い物癖を支えるには堅実な金融キャリアが必要」という助言から始まりました。
コンピュータ構築とCPU設計に時間を費やした後、IEEEフェローでありタフツ大学大学院工学教育学部長の彼女はアカデミアへの道を求めました。しかし、エンジニアリング分野に大きな問題があることに気づきます。
「『女性のメンターとして採用する』と言われたのに、初授業に行くと女性学生が誰もいなかったんです」とPanetta氏はInforma TechTargetの「Targeting AI」ポッドキャスト最新回で振り返ります。「それが、私が偶然にもインクルーシブな聴衆をエンジニアリングに呼び込むメンター、支持者、チャンピオンになったきっかけです」
その情熱は、人身売買から子どもを救出する活動を通じてAI技術へと移りました。
「そこにあった顔認識用のデータセットはすべて正面向き、両耳が見えるものでした。データベースの大半は有色人種と犯罪データベースから取られたもの。そこには明確なバイアスがありました」とPanetta氏。
対応として、Panetta氏と彼女のチームは、世界中から3歳から78歳までの多様な人々のデータベースを作成。サングラス、マスク、さまざまな頭部回転など、異なるシナリオでの画像を含めました。
「非常に整ったデータで訓練されたAIは現実世界では機能しません。現実世界は自動的にAIに翻訳されないのです」とPanetta氏。
また、AI技術は倫理的である必要があり、それは人々や生計を害さないことを意味すると付け加えます。
「倫理的AIについて語るとき、私たちはどう収集するか、人々の権利、どう使用するかについて語っています」
一方、責任あるAIとは、AIシステムがなぜその決定を下したかを説明できることだと言います。
Esther ShittuはInforma TechTargetのニュースライター兼ポッドキャストホストとしてAIソフトウェアとシステムを担当。Shaun Sutnerは同社情報管理チームのシニアニュースディレクターとしてAI、分析、データ管理技術、ビッグテック、連邦規制を担当。30年以上の報道経験を持つベテランジャーナリストです。二人でTargeting AIポッドキャストを担当しています。
AI技術をさらに深掘り
実世界のエージェンティックAI例とユースケース11選
文:Mary Pratt
IBMのエンタープライズAIビジョン:カスタマイズとコラボレーション
文:Esther Shittu
Black Girls Code CEO「AIの多様性はすべての人を含むこと」
文:Esther Shittu
CerebrasがNvidiaとどう競うか
文:Esther Shittu
モノのインターネットテクノロジー
- RTLSを支える5つの主要タグ技術
- WiFiベースのリアルタイム位置追跡:資産管理に適した選択か?
- Biz4Intellia土壌監視:作物、野菜、花、果物の収量を向上
- IoTセキュリティ:サイバー攻撃からネットワークを守る
- IoTと埋め込み分析がベルギーの庭園に及ぼす気候変動の影響を明らかにする
- Altizon、4週間の産業IoTチャレンジを開始—OEE、品質、エネルギーで具体的な成果を
- 日立、Lumadaアナリティクスを活用した包括的な職場復帰安全ポートフォリオを発表
- ホームIoTネットワークを守る7つの必須ステップ
- IoTセキュリティ — Perry Leaによる実践ガイド
- 5Gのトップ5課題:スペクトラム、コスト、カバレッジ、デバイス、セキュリティをどう乗り越えるか
- 石油・ガス業界がデジタル変革を加速:戦略、成功事例、将来展望