35 Perceptions of Science in America, American Academy of Arts and Sciences, 2018 [https://www.amacad.org/sites/default/files/publication/downloads/PFoS-Perceptions-Science-America.pdf]; C. Funk, M. Heffernon, B. Kennedy, and C. Johnson. Trust and Mistrust in Americans’ Views of Scientific Experts, Pew Research Center, August 2, 2019 [https://www.pewresearch.org/science/2019/08/02/trust-and-mistrust-in-americans-views-of-scientific-experts/].
Заключение
Кого-то одурачили
1 Гарри Франкфурт: On bullshit. Европа, 2008. Оригинальная версия была опубликована в Raritan Review в 1985 году. [http://www2.csudh.edu/ccauthen/576f12/frankfurt__harry_-_on_bullshit.pdf].
2 G. Pennycook, J. A. Cheyne, N. Barr, D. J. Koehler, and J. A. Fugelsang. On the Reception and Detection of Pseudo-Profound Bullshit, Judgment and Decision Making 10 (2015): 549–563 [http://journal.sjdm.org/15/15923a/jdm15923a.pdf]. Генераторы чопраизмов, использованные в исследовании: Wisdom of Chopra [http://wisdomofchopra.com/] и New Age Bullshit Generator [http://sebpearce.com/bullshit/].
3 D. J. Simons and C. F. Chabris. What People Believe About How Memory Works: A Representative Survey of the US Population, PLoS ONE 6 (2011): e22757 [https://doi.org/10.1371/journal.pone.0022757]; D. J. Simons and C. F. Chabris. Common (Mis)Beliefs About Memory: A Replication and Comparison of Telephone and Mechanical Turk Survey Methods, PLoS ONE 7 (2012): e51876 [https://doi.org/10.1371/journal.pone.0051876].
4 В этих статьях поднимаются вопросы о правдивости и полноте истории Дуга Брюса: D. Segal. A Trip down Memory Lane: Did Doug Bruce Forget It All, or Just the Boring Truth? Washington Post, March 22, 2006 [https://www.washingtonpost.com/archive/lifestyle/2006/03/22/a-trip-down-memory-lane-span-classbankheaddid-doug-bruce-forget-it-all-or-just-the-boring-truthspan/f5b3d8da-7aa3-4f7f-a3a8-3b6077433f7f/]; R. Ebert. Is This Documentary a Fake? RogerEbert.com, February 19, 2006 [https://www.rogerebert.com/roger-ebert/is-this-documentary-a-fake]; M. Dargis. Mysteries, If Not Sunshine, of Another Spotless Mind, New York Times, February 24, 2006 [https://www.nytimes.com/2006/02/24/movies/mysteries-if-not-sunshine-of-another-spotless-mind.html].
5 T. Drew, M. L. H. Võ, and J. M. Wolfe. The Invisible Gorilla Strikes Again: Sustained Inattentional Blindness in Expert Observers, Psychological Science 24 (2013): 1848–1853 [https://doi.org/10.1177%2F0956797613479386].
6 G. Marcus. Horse Rides Astronaut, The Road to AI We Can Trust, May 28, 2022 [https://garymarcus.substack.com/p/horse-rides-astronaut]. Маркус отмечает, что такие модели на самом деле не «понимают» отношений между объектами, поэтому, когда им выдаются новые подсказки, которые по важным параметрам не соответствуют их обучающему набору, они могут выдавать данные, которые выглядят совершенно глупо. Например, он показывает, что при запросе «лошадь верхом на астронавте» модель Imagen выдает изображение астронавта верхом на лошади. Ограничения искусственного интеллекта и разрыв между производительностью и ажиотажем по состоянию на 2019 год хорошо задокументированы в книге G. Marcus and E. Davis. Rebooting AI: Building Artificial Intelligence We Can Trust. New York: Pantheon, 2019, ch. 1. Характерным примером ажиотажа вокруг постепенных улучшений в задачах обработки текста является этот отчет о пресс-релизе китайской технологической компании Alibaba: A. Cuthbertson. Robots Can Now Read Better Than Humans, Putting Millions of Jobs at Risk, Newsweek, January 15, 2018 [https://www.newsweek.com/robots-can-now-read-better-humans-putting-millions-jobs-risk-781393]. Обсуждение заявления Блейка Лемуана о том, что LaMDA от Google обладает разумом: N. Tiku. The Google Engineer Who Thinks the Company’s AI Has Come to Life, Washington Post, June 11, 2022 [https://www.washingtonpost.com/technology/2022/06/11/google-ai-lamda-blake-lemoine/]. Гэри Маркус отвечает следующим описанием того, что делает LaMDA: «Он просто пытается быть лучшей версией автозамены, какой только может быть, предсказывая, какие слова лучше всего подходят к данному контексту»: Nonsense on Stilts, The Road to AI We Can Trust [https://garymarcus.substack.com/p/nonsense-on-stilts]. Некоторых людей точно так же ввел в заблуждение новаторский чат-бот 1970-х годов ELIZA, который выдавал себя за психотерапевта, парируя заявления типа «Я не очень хорошо лажу со своей матерью» ответами типа «Расскажи мне больше о своей матери». Джозеф Вайзенбаум, создатель ELIZA, был удивлен тем, насколько серьезно люди восприняли это подшучивание бота и то, как эмоционально они на это отреагировали: «Я не осознавал… что чрезвычайно короткое воздействие относительно простой компьютерной программы может вызвать мощное бредовое мышление у вполне нормальных людей». Смотрите J. Weizenbaum. Computer Power and Human Reason: From Judgment to Calculation. San Francisco: W. H. Freeman, 1976, 7. Подробнее об ELIZA и скриншоты диалогов: ELIZA, Wikipedia [https://en.wikipedia.org/wiki/ELIZA].
7 Жертва капитана Мботе: M. Zuckoff. The Perfect Mark, New Yorker, May 15, 2006 [https://www.newyorker.com/magazine/2006/05/15/the-perfect-mark]. Мошенничество с авансовыми платежами: Advance-Fee Fraud Scams Rise Dramatically in 2009, Ultrascan AGI [https://ultrascan-agi.com/Advance-fee%20Fraud%20Scams%20Rise%20Dramatically%20in%202009.html]. Более поздняя оценка предполагает, что эти мошенничества по-прежнему приносят более 700 000 долларов в год: M. Leonhardt. Nigerian Prince Email Scams Still Rake in over $700,000 a Year – Here’s How to Protect Yourself, CNBC, April 18, 2019 [https://www.cnbc.com/2019/04/18/nigerian-prince-scams-still-rake-in-over-700000-dollars-a-year.html]. Мы написали эссе о «нигерийской афере»: C. Chabris and D. Simons. Why We Should Scam the Scammers, Wall Street Journal, August 3, 2012 [https://www.wsj.com/articles/SB10000872396390443931404577548813973954518]; часть текста в этом разделе адаптирована из этой статьи. Большинство мошенников никогда не попадаются и не привлекаются к ответственности, хотя американцу, который отмывал деньги в рамках аферы с «нигерийским принцем», в 2017 году были предъявлены обвинения по 269 пунктам различных федеральных преступлений. Еще одна ирония заключается в том, что его, по-видимому, заманили на эту роль с помощью любовной аферы, совершенной настоящими мошенниками из Нигерии, двум из которых он переправил вырученные средства. См.: B. Warren. Nigerian Prince and Online Romance Scams Raked in at Least $250,000, Slidell Police Say, NOLA.com, January 2, 2018 [https://www.nola.com/news/northshore/articlef7f6f13d-6d5a-55de-99c8-1a3f48b46a40.html]; C. Caron. Louisiana Man Charged in Nigerian Prince Scheme. New York Times, December 31, 2017 [https://www.nytimes.com/2017/12/31/us/nigerian-prince-fraud.html]; L. Vaas. Your Nigerian Prince Is a 67 Year Old from Louisiana, Naked Security, January 3, 2018 [https://nakedsecurity.sophos.com/2018/01/03/your-nigerian-prince-is-a-67-year-old-from-louisiana/]. Недавнее мошенничество с авансовыми платежами в Нидерландах апеллирует к националистическим настроениям: если вы являетесь «суверенным гражданином» Нидерландов, правительство дает вам 1,5 миллиона евро, и первый шаг к получению доступа к ним – заплатить 100 евро за вступление в клуб: A. Kouwenhoven and W. Heck. Separated from the Netherlands, with 1.5 Million Euros Added, April 21, 2022 [https://www.nrc.nl/nieuws/2022/04/21/losgemaakt-van-nederland-met-15-miljoen-euro-toe-a4116891].
8 C. Herley. Why Do Nigerian Scammers Say They Are from Nigeria? Proceedings of the Workshop on Information Security, Berlin, June 25–26, 2012 [https://www.microsoft.com/en-us/research/wp-content/uploads/2016/02/WhyFromNigeria.pdf].
9 G. B. Trudeau, Doonesbury, January 27, 1985 [https://www.gocomics.com/doonesbury/1985/01/27].
10 Раньер был приговорен к 120 годам тюремного заключения после вынесения обвинительных приговоров за вымогательство, заговор с целью рэкета, торговлю людьми в целях сексуальной эксплуатации, попытку торговли людьми в целях сексуальной эксплуатации, заговор с целью принудительного труда