米Google(グーグル)のAI(人工知能)研究部門が、AI倫理研究者の解雇を巡って大きく揺れている。BERTのような巨大な「言語モデル」が内包する問題点を指摘しようとした2人の女性研究者が、2020年12月と2021年2月に解雇された問題だ。「論文の社内検閲」に端を発した騒動に見えるが、AI倫理を巡るより根深い社内対立が透けて見える。
問題が明らかになったのは2020年12月2月(米国時間)のことだ。グーグルでAI倫理の研究チームを率いるTimnit Gebru(ティムニット・ゲブル)氏がTwitterでグーグルから解雇された、と打ち明けたのだ。ゲブル氏はその数カ月前、BERTのような巨大言語モデルに関する様々な問題点を指摘する論文を、米ワシントン大学の研究者らと共同で執筆していた。その論文がグーグル社内のレビューで「社外に公開できない」と判断され、内容の修正などを求められた。これにゲブル氏は反発していた。
論文が指摘したのは「AIのバイアス」問題
ゲブル氏らによる論文「On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?」はワシントン大学のWebサイトで公開されている。そこで指摘した問題点は、「巨大言語モデルは学習に膨大な電力を消費しており、環境に大きな負荷を与えている」「学習データに存在する偏見(バイアス)によって、AIにもバイアスが生じている」「言語モデルはそれらしく見える文章を確率的に生成しているだけで、言語理解はしていない」といったもの。AI分野ではよく知られた問題点であり、妥当な内容である。
なぜグーグルはこの論文の外部公開に難色を示したのか。グーグルにおけるAI研究部門のトップであるJeff Dean(ジェフ・ディーン)氏は12月4日(米国時間)にTwitterで声明を発表し、ゲブル氏らの論文は「機械学習に必要となる電力をより少なくする研究努力について触れていない」「言語モデルの偏見を改善するための研究努力について触れていない」ことから、社内レビューを通らなかったのだと弁明した。
しかしゲブル氏や、論文の共著者の1人で2021年2月にグーグルを解雇されたMargaret Mitchell(マーガレット・ミッチェル)氏の主張を見ていくと、彼女らと会社は全く異なる観点で対立していたことが浮かび上がってくる。
ゲブル氏やミッチェル氏は、AIのバイアスを解消するには「バイアスの無い組織、プロセスによってAIを開発する必要がある」という考え方を持っている。現在のAIをけん引する巨大IT企業(ビッグテック)の研究開発部門は、白人やアジア系の男性が極端に多く、女性やアジア系以外の有色人種が少ない。現在のAIに性別や人種に関するバイアスが存在するのは、それを開発する組織にそうした偏りがあるからだ、という考え方だ。
研究者2人を解雇したGoogle AI倫理対立の深刻度[小嶋秀治コジーの今週気になるDXニュースVOL20210314-01]
feel free to call us +81.80.20850923 stad-dx@cyber.ne.jp
Related Articles
-
-
りそな、IBM、NTTデータが金融デジタルプラットフォーム提供の新会社を設立:マイナビ[コジーの今週気になるDXニュースVOL20220208-02]
cybernet, , DX, 新着, 金融関連, FinBASE, FinBASE Co., IBM, Ltd., NTT, NTTデータ, フィンベース, りそな, りそなHD, りそなホールディングス, 日本IBM, 金融デジタルプラットフォーム, 0
りそなホールディングス(りそなHD)、NTTデータ、日本IBMは2月7日、記者会見を開き、金融デジタルプラットフォームの
-
-
京都府亀岡市「子ども見守り顔認証サービス」実証開始 DXYZは、京都府亀岡市と共に「サンガスタジアム by KYOCERA」にて、顔認証プラットフォーム「FreeiD」を活用した「子ども見守り顔認証サービス」実証事業を2022年12月14日より開始した。: リセマム
cybernet, , AI, DX, IOT, 新着, 京都府亀岡市, 子ども見守り顔認証サービス, 0
[コジーの今週気になるDXニュースVOL20221220-01]
DXYZは、京都府亀岡市と共に「サンガスタジアム by KYOCERA」にて、顔認証プラットフォーム「FreeiD」を活
-
国立研究開発法人情報通信研究機構(NICT)は、若手セキュリティイノベーターの育成を目的としたプログラム「SecHack365」の2021年度受講生(応募資格25歳以下)募集について発表した。[小嶋秀治コジーの今週気になるDXニュースVOL20210402-05]
cybernet, , AI, DX, IOT, NICT国立研究開発法人情報通信研究機構, Society 5.0, サイエンス, セキュリティー, 新着, 行政情報, NICT, SecHack365, セキュリティイノベーター, 国立研究開発法人情報通信研究機構, 0
SecHack365では、セキュリティに関する技術の研究開発を行いたい、サービスを作りたい者に対し、開発手法の指導やセキ
-
-
-
0 Comments