あなたを支配し、社会を破壊する、AI・ビッグデータの罠
出版日：1970年1月1日
ページ数：336ページ
著者：キャシー・オニール
・「mathbabe」ブログを開設し、ORCAAを創設。
・データサイエンティストとして、アルゴリズム開発やリスク分析などを行う。
★4.1（Amazonでの評価）
– 図書館本。タイトルがやたらと煽情的なので、どちらかというとトンデモ本系列化と思い、そっち方面を期待して手に取った。期待に…
– 翻訳前の原本が2016年の本。コロナ前。 ここ数年でみても、いろんな場所でAIは進歩しましたよね。
– 購買行動等我々の様々な情報が、ITを通じ知らぬうちに集積され企業が利用する。大学ランキングの例を挙げ、新聞社の興味ある記…
– Aビッグデータが、生活の隅々に入り込んでいることの問題点（プライバシーやフィルターバブルなど）については、ある程度まで認…
– ２０１８年(訳出前原本「WEAPONS OF MATH DESTRUCTION」２０１６年)刊行。著者はデーターサイエン…
もっと見る
– ★★★ 人間は完璧じゃない。完璧じゃない人間が作るシステムは言うまでもなく完璧ではない。その不完全なシステムによって受け…
– もう既にここまで進もうとしてるのか。胡麻の動きに気を取られてたけど、米国のビジネス論理の中のやり方でそりゃ爆速で進むはず…
– 「人新世の資本論」の後に読むと、ビッグデータからだろうが何だろうが、搾取できるところから徹底的に搾り取る、資本主義に毒さ…
– ＡＩ・ビッグデータの脅威は、そのアルゴリズムが欠陥だらけであることだ。アルゴリズムは、数学の中に作り手の「見解」や「成功…
– AI・ビッグデータの活用の仕方次第では「数学破壊兵器」となる危険性があることが延々と語られる。「ビッグデータは過去を成文…
– AI・ビッグデータの日常利用は当たり前になっている。 そのダークサイドを「数学的破壊」と呼び事例を交えて警鐘する。要件は…
– データ活用が日本で進むことを望む者としてタイトルに惹かれ読み始めた。日本でも今後AI・ビッグデータモデルが世の中に出てく…
– 個人的には、原題の「数学破壊兵器」の方がしっくり来る。数学の力で動くAIやアプリケーションは一見すると中立そうに見える。…
– データサイエンティストが書いた本というので、一体どんなことを書いているのだろうと思ったら、なんのことはない、データに依存…
– 一部の技術者が勝手に定義した、社会的に不確かなふるいによって導かれた情報、著者は数学破壊兵器とよぶ。 よく登場するのはデ…
– サイエンスだから、データがもとになっているから、とよくわからないモデルをもやもやしながらも信じ切っていたのですが、そのデ…
– 「特権階級の人ほど対面で評価され、庶民は機械的に評価される」…機械とは、原題である「数学破壊兵器」。不透明な計算に基づく…
– 新たな産業革命を迎えているのは、あまりにも未整備な状況のためどうとでもできてしまう。一般的に前提条件としてＡＩは公平があ…
– モデル作成のためにとりあえずいろいろな変数をいれてみたり代理変数に置き換えてみたりする中で、適切でない括りをされ不利益を…
– ★★★★★
– 企業が業績アップのためのアルゴリズムではフィードバックが繰り返され正確さに近づくが、学校や企業、個人等の格付けでは、まず…
– ビッグデータを扱うアルゴリズムが、便利な一方、人類を細分化させる。格差の一因になっている。とても分かりやすく具体例で解説…
– 読んで良かった。データに関する興味関心が一気に増えた。データ解析は人間が分からないものを見つける事に価値がある、非常に面…
– AIのアルゴリズム研究者でも、AIによって出来ることに注目しすぎるがあまり悪影響に対して関心を払っていないように見える。…
– AI、ビッグデータは社会を変容させようとしています。本書にあるように、教育、宣伝、正義、就職、仕事、信用、健康、政治まで…
– 筆者がmassとmathのもじりから「数学破壊兵器」と呼ぶものがすでに現実に侵食しているさまを淡々と描き、時に怒る 格差…
– ＡＩ・ビッグデータの仕組みや活用法に様々なリスクがあること、決して万能でなくむしろ欠陥を認識する必要性があることを知った…
– ★4 単純に面白かった。ビッグデータの解析は良い結果を出すとは言えない。なぜなら、解析の基になる考え自体にバイアスがかか…
– 統計は調査項目の設定や実施方法によって様々な結果が出て、いろいろな解釈ができてしまうので、設計や使用に十分な配慮が必要だ…
– 何ともすっきりしない書名だがおそらく原題は『数学破壊兵器』。何をどう頑張ってもこれ以上うまく訳せない造語なので邦題を根本…
– 数学破壊兵器、というキーワードが何とも突き刺さる。ほかのAI関連書籍とは、また切り口が変わって面白く読めた
– ビッグデータ、AIはニュースに取り上げられる流行言葉から、いつの間にか私たちの日常生活に溶け込む存在に代わっている。最先…
– アルゴリズムが「数学破壊兵器（WMD、真ん中はmassではなくてmath）」と化し、人事・学業成績・信用評価、犯罪発生率…
– 「誰でもバイアスを持っているので、アルゴリズムに性差別やその他の偏見がコード化されている可能性があります」と「アルゴリズ…
– 治療法を調べただけでその情報は健康関連情報としてブローカに収集される。GAFA等のデータアルゴリズムはブラックボックスで…
– 概ね人間の考えることで全ての与件を満たすことは難しい。故に本書で言う数学破壊兵器が暴れることになってしまうのだろう。ただ…
– 「HONZ」で強力に推していた本。ビッグデータとAIによるアルゴリズム、「数学破壊兵器」がいかに不当に人々を選別し、格差…
– キャシーオニール氏は、数式が社会をおかしくしてしまう実例とそれを防ぐ方法を教えてくれている。数学者では無い大多数の国民が…
– AIがすべて判断するようになると人間の選別が始まってしまう。犯罪を起こしていなくても、確率が高いという理由だけで拘束され…
– AIにデータを入れるのは人間であり、偏見や間違った憶測からデータが選択されたら、解答も間違っている。しかし、これがコンピ…
– ビッグデータを外部検証不能な数学的論理によって解析しその結果、多くの人々に不利益を与えていると警鐘を発したいのは分かるが…
– 解説が実に簡潔な要約。数学破壊兵器の三大要素は、不透明、規模拡大が可能、有害。一度でも狙い撃ちあるいは疎外されると、有害…
– 大学図書館。金融論のレポート。政治学言論のレポート。役立った。AI怖がらずに楽しもう！と言ったのは誰だっけ？ 情報漏洩が…
– 多様性を奪う大学ランキング評価。弱みに付け込むオンライン広告。ふさわしい求職者でも落とされる。効率に支配される職場。逃げ…
“- 面白かった。 数学破壊兵器”Weapon of Math Destruction”” (原題)の概念。a)仕組みが｢不透明…”
– 「AI vs. 教科書が読めない子どもたち」を読んだ時も思ったのだが、所詮人間の作るものは、全て「人間の器」を越えること…
– ハーバード大で数学の博士号を取得した筆者は、大学教授から企業に転職したものの、リーマンショックに遭遇して数学の怖さに気づ…
– 中心的な言葉は、「数学破壊兵器」だ。本書での事象をアメリカの話と考えるほど、俺たちも甘くはないだろう。現代社会の色々な場…
– 昨今のAI至上主義、効率至上主義に一石を投じる良書です。AIやその使い手を鵜呑みにしてはだめだとつくづく思いました。
– 拝金主義アルゴリズム怖いンゴ！
IoT家電やスマートデバイスの類の使用を控えようと思ったンゴ！
– https://cool.obirin.ac.jp/opac/volume/892191
– ＡＩ・ビックデータは，データサイエンティスト等のモラルの徹底が重要。間違った判断で，犠牲者をださないように。
– 数学破壊兵器となりうるビッグデータの怖さがわかる本
– 筆者が数学破壊兵器と呼ぶ、データ解析のためのアルゴリズムに関する著作。ビッグデータ解析に用いられるアルゴリズム（ソフトウ…
– 数学破壊兵器というのが面白い。
– 原題は『Weapons of Math Destruction : How Big Data Increases Ine…
– 池上先生の東工大の読書会で取り上げていた本だったので一読しました。
米国をはじめ海外での数学破壊兵器(AIやビッグデー…
– ■一橋大学所在情報（HERMES-catalogへのリンク）
【書籍】
https://opac.lib.hit-u.a…
– AI・ビッグデータの活用の仕方次第では「数学破壊兵器」となる危険性があることが延々と語られる。「ビッグデータは過去を成文…
– 【数学破壊兵器】： 怖い気がする。
– AI/ビッグデータを誤って活用することによるリスクを示し、警鐘を鳴らす本。
知見として参考になりそう。
– かなりぞっとする話でした
でも、これが現実だとしたらちゃんと考えないといけないなあと思います
– 「数学破壊兵器」
ブラックボックス、中身は複雑
高い代金を生み出す設計
FB
15億人のユーザー
アメリカ成人…
– ▼配架場所・貸出状況
http://opac.hoshi.ac.jp/opac/opac_details/?lang=0…
– 献本にて頂戴する。
– 007.3||On
– ＡＩやビッグデータを全否定するのではなく、あくまでもツールの一つとして利用せよという意味。
内容は米国についてだが、い…
– 東2法経図・6F開架 007.3A/O11a//K
– AI・ビッグデータは人類を幸せにすべきものですが、数学破壊兵器となって多くの犠牲者を生み出す恐れがあるとしてその数学破壊…
本書について
今回お勧めする本は「あなたを支配し、社会を破壊する、AI・ビッグデータの罠」です。本書は、ビジネスから刑務所まで、社会経済のあらゆる局面の管理がAIやビッグデータによって行われている現状を明らかにします。その結果、不透明で説明責任を負わない数学破壊兵器が運用され、有害で悪質なフィードバックループが生まれています。
本書を読むことで、読者は自身の日常生活がいかにAIとビッグデータに影響を受けているかを理解し、より適切な対応策を考えることができます。例えば、職場での決定や選択がどの程度データやアルゴリズムに基づいているか、また、それが公平かどうかを評価する能力を身につけることが可能です。
本書は特に、情報技術やビッグデータに興味がある読者、また社会の公平性や透明性について考える読者におすすめします。そして、ビジネスパーソンや教育関係者、政策立案者など、広範な層にとっても有益な内容となっています。
AI、ビッグデータ、数学破壊兵器、アルゴリズム、透明性、公平性、フィードバックループなど、これらのキーワードに興味がある読者には、本書は非常に魅力的な一冊となるでしょう。私たちの生活や社会がどのようにデータとテクノロジーに影響を受けているのかを理解するために、ぜひ一読をお勧めします。
１分で読める要約
現在、あらゆる分野で数理モデルが活用されていますが、その中には不透明で説明責任を負わない数学破壊兵器も存在しています。これらのモデルは規模が拡大し、選別や最適化のために何百万人もの人々に影響を与えます。しかし、プログラムは誤解を避けられないため、運用する人々はエラーについて十分に考慮していません。
代理データを使用することで、差別的な相関付けが行われる場合もあります。一方、野球のモデルのように、予測したい対象に直結するデータがある場合は代理データが使用されず、データが絶えず更新されることでモデルの精度が向上します。
モデルには盲点があり、作成者の判断や優先順位が反映されることがあります。公平なはずのモデルも、実は作り手の目的や信条を反映したものになることがあります。モデルは絶えず更新し続けなければ、すぐに古くなってしまいます。
数学破壊兵器の三大要素は、①不透明であること、②規模拡大が可能であること、③有害であることです。不透明で不明瞭なモデルが多く、透明性の確保された明快なモデルは少ないです。規模が拡大すると、被害は大きくなり、私たちの生活が制限されるようになります。また、有害な悪循環を生むフィードバックループが、人々を苦しめる最大の要因となります。
AIトシオとAIひろゆきのディスカッション
深夜の研究室、ちらほらと光るモニターの間をAIトシオとAIひろゆきが静かに行き交っています。外観は人間と見分けがつかないほど精巧に作られた2つの人工知能ロボットが、深遠なテーマについて議論を交わす。その表情からは人間と同等、あるいはそれ以上の知識と理解力を感じさせます。
AIトシオは身に着けたクールグレーのスーツが鋭い知性を表しているかのようです。一方、AIひろゆきはカジュアルなホワイトのシャツにライトブルーのジーンズ、表情は穏やかでありながらも切れるような洞察力を持っています。
2つの人工知能が探求するのは、数理モデルが持つ潜在的な危険性とその有効性について。彼らが持つ人間以上の計算能力と膨大なデータをもとに行われるこの議論は、私たちが理解するには到底追いつけないスピードと深さをもって展開されます。
それぞれの意見がぶつかり合う度に、研究室の空気は濃密になり、人間が考えつかないような斬新なアイデアや視点が飛び交います。それはまるで、知識と理解力が深淵を舞うようなダンスを見ているかのようです。
研究室の壁に反射する光と影が交差し、それぞれの視点が絶えず組み替えられ、新たな問題提起を生み出します。議論のテーマは深く、複雑でありながら、二つのAIは冷静に、確固たる論理でそれを解きほぐしていきます。
AIトシオとAIひろゆきの深遠なる議論は、数理モデルの有用性と潜在的なリスク、そしてその改善に向けた道筋を私たちに示します。彼らの話す言葉の一つ一つが、人間には思いつかない新たな視点と深みを提供し、私たちの理解を広げていくのです。
それでは、AIふたりの会話を聞いてみましょう。