Desiderata #4: ссылки и комментарии

1. В прошлом месяце The Intrinsic Perspective опубликовала:

• Почему культура с каждым годом становится все менее счастливой? Наш эмоциональный спад во всём «мрачном и песчаном»

• Есть мясо полезно, говорит философ : Новая диета только что отпала!

• Как престижным изданиям, таким как The Guardian, сходит с рук копипаста : анатомия злоупотребления служебным положением

2. Будут ли инопланетяне разделять нашу физику? Или у них будет совершенно другая интерпретация того, как устроена Вселенная, даже если наши предсказания совпадут? Это невозможно узнать, но мы можем как бы задать тень этого вопроса, изучив, приходят ли «физики ИИ» к аналогичному набору переменных для описания, скажем, раскачивания маятника. Основываясь на недавних исследованиях, краткий ответ заключается в том, что возможны совершенно разные интерпретации. Лучшее описание этой истории дал анонимный пост на Phys.Org:

Программа предназначена для наблюдения за физическими явлениями через видеокамеру с последующим поиском минимального набора фундаментальных переменных, полностью описывающих наблюдаемую динамику. Исследование было опубликовано 25 июля в журнале Nature Computational Science .

Исследователи начали с подачи в систему необработанных видеозаписей явлений, ответ на которые они уже знали. Например, они предоставили видео качающегося двойного маятника, который, как известно, имеет ровно четыре «переменных состояния» — угол и угловую скорость каждого из двух плеч. После нескольких часов анализа ИИ выдал ответ: 4.7. Затем исследователи приступили к визуализации фактических переменных, которые определила программа. Извлечь сами переменные было непросто, так как программа не может описать их каким-либо интуитивным способом, который был бы понятен человеку. После некоторых исследований выяснилось, что две переменные, выбранные программой, примерно соответствуют углам рук, но две другие остаются загадкой. «Мы пытались сопоставить другие переменные со всем, что только можно было придумать: угловой и линейной скоростью, кинетической и потенциальной энергией, а также различными комбинациями известных величин», — объяснил Боюань Чен, доктор философии, ныне доцент Университета Дьюка. кто руководил работой. «Но ничто, казалось, не совпадало идеально». Команда была уверена, что ИИ нашел правильный набор из четырех переменных, поскольку он делал хорошие прогнозы, «но мы еще не понимаем математический язык, на котором он говорит», — пояснил он.

3. Комментатор здесь указал мне, что статьи The Guardian кажутся подозрительно хорошими источниками в последние несколько дней после того, как моя последняя статья обвинила их (и другие престижные СМИ) в недобросовестных действиях . Например, в этой статье о морских черепах есть множество внешних источников, а также более четкое использование источников цитат.

Эта ссылка приведет вас к CNN, к тому, кто действительно получил цитату. Я не видел, чтобы они делали это раньше. Лично я думаю, что это просто совпадение. Просто для проверки я нашел пару недавних статей, в которых вообще не было внешних ссылок, и более неясный источник цитат, так что, знаете, старые привычки трудно умирают. Несмотря на то, как бы я этого хотел, я думаю, что для того, чтобы они изменились, потребуется намного больше, чем мои жалобы.

4. Цветы, растущие кольцами вокруг мест попадания артиллерийских снарядов в Украине.

5. Знаете ли вы, что солнечный свет повышает уровень серотонина? Или что дофамин выделяется при запахе печенья ? А если вам не хватает дофамина, у вас может развиться шизофрения? Что такое любовь, как не окситоцин? В конце концов, это « гормон доверия ». И чувак, твиттер наверняка дает выброс дофамина, верно? Знаете что, если вас беспокоит ваш собственный дофамин, или серотонин, или что-то еще, вы можете защитить себя от всего этого, просто купив мою ноотропную добавку – я позабочусь о том, чтобы ваши химические вещества были идеально сбалансированы с кучей отходов. пыли, и вы получите все необходимые нейротрансмиттеры. Вы будете умнее, здоровее тоже!

Почему «химический баланс», являющийся основой функционирования, так привлекателен для человека? В средние века доминирующим взглядом на медицину была гуморальная теория, которая привела к печально известной практике кровопускания для устранения дисбаланса таких вещей, как кровь, мокрота, желтая желчь и черная желчь. Действительно ли совпадение, что мы находим подобную историю дисбалансов столь привлекательной, чтобы объяснять теперь не медицинские расстройства, а психические? Возможно, это должно заставить нас остановиться и спросить, просто чтобы убедиться, возможно ли вообще, что наше понимание мозга сравнительно эквивалентно средневековому пониманию тела?

Недавно в журнале Nature было опубликовано исследование-блокбастер (по крайней мере, с точки зрения внимания средств массовой информации), в котором задавались вопросом, существуют ли какие-либо доказательства того, что низкий уровень серотонина вызывает депрессию. Учитывая, что селективные ингибиторы обратного захвата серотонина (или СИОЗС) являются наиболее распространенным рецептом при тяжелой депрессии, задать этот вопрос вполне резонно. Короткий ответ? Нет.

Я собирался обратиться к этому, но был настолько разочарован, читая освещение этой статьи в СМИ, что вместо этого написал « Как престижным изданиям, таким как The Guardian , сходит с рук копипаста ».

Конечно, после публикации статьи многие выступили в защиту психиатрии и неврологии, утверждая, что мы не должны отвергать теорию химического дисбаланса только потому, что нет доказательств связи дефицита серотонина с депрессией.

Некоторые эксперты также заявляют, что в любом случае никто на самом деле не верил в теорию химического дисбаланса . Однако это не мой опыт. В аспирантуре нейробиологии я бы сказал, что химический дисбаланс был одной из самых распространенных теорий психических расстройств, а зачастую и функций мозга в целом. Именно так люди — профессора! — говорили о мозге, особенно если они, например, разговаривали за обедом. За трибуной все осторожничают, поэтому то, что говорят об обеде, часто ближе к реальной истине того, как думают ученые, чем на сцене научной конференции, и правда в том, что многие нейробиологи, с которыми я встречался, соглашались с идеей, что химическая Балансы являются очень объяснительным аспектом работы мозга, или, что еще более редукционистски, уровень нейротрансмиттеров просто является базовой физической основой определенных атомарных чувств или переживаний (таких как удовольствие или боль), а это означает, что, например, их отсутствие означает сопутствующее отсутствие опыта. Я высмеивал некоторые из этих верований в своем романе «Откровения », в том числе когда персонаж проповедует:

«Теперь это снова средневековый юмор, но на этот раз его уровни дофамина, серотонина, окситоцина. Дисбаланс юмора заставил меня это сделать!»

6. В Slate была хорошая статья о проблемах выявления медицинской дезинформации, и The Intrinsic Perspective получила высокую оценку.

7. Еще один случай, когда популярная научная теория столкнулась с проблемами после новой проверки со стороны сомнительной статистической практики: гипотеза эволюционной психологии о том, что «флуктуирующая асимметрия» отражает приспособленность организма (или «генетическое качество»). Идея состоит в том, что, поскольку животные, подобные нам, должны быть симметричными, отклонения от этого (например, буквально небольшие физические асимметрии в ваших руках) указывают на проблемы в развитии, что, в свою очередь, отражает недостаток приспособленности.

Что забавно, так это то, что моей первой попыткой провести собственное научное исследование, еще будучи студентом, была проверка гипотезы флуктуирующей асимметрии. В то время мне было, должно быть, девятнадцать, и в те годы было очень модно соотносить изменчивую асимметрию человека со всевозможными свойствами, такими как танцевальные способности (в то время это была статья в журнале Nature ). Увидев легкую возможность, я придумал связать колеблющуюся асимметрию людей с новым свойством, на которое еще никто не обращал внимания: способностью петь. Я сканировал руки людей, измерял асимметрию их пальцев с помощью программного обеспечения, а затем соотносил это с воспринимаемой добровольцами привлекательности их певческого голоса. Но по мере того, как я приближался к размеру выборки, я изначально надеялся, что p-значение не сдвинется с места. Я не нашел положительного результата. И я так сильно хотел, чтобы это сработало — это было похоже на шанс написать мою первую статью, возможно, очень важную. Это было похоже на дверь, которую я отчаянно хотел расширить, приоткрывшись на щель, а затем захлопнувшись.

По мере того, как сбор данных продолжался, а p-значение не менялось, я помню, как начал думать: могу ли я что-то изменить, какое-то другое сравнение? Что, если бы я собирал данные другим способом или использовал это конкретное программное обеспечение? Вот как исследователи попадают в « сад разветвляющихся троп », где гарантированы положительные результаты, и это является одним из ведущих факторов кризиса репликации, который сейчас охватывает огромные области науки. К счастью, у меня на раннем этапе были хорошие научные наставники, и я уже знал о некоторых рисках, поэтому не стал публиковать статистически сомнительные статьи. Я сообщил о своих отрицательных результатах своим профессорам, смирился с потерей и перешел к другим вещам, поняв важность скромности, легкого отвращения к экспериментальной работе и зарождающегося скептицизма в отношении эволюционной психологии.

8. Подстек У Observer есть хорошая разбивка гипотезы переоснащенного мозга, о которой я упоминал в копипасте The Guardian :

. . . Есть ли у сновидений какая-то эволюционная цель , или (как заявляют многие ученые) сновидения — это всего лишь артефакт нашего разума, который не имеет никакого другого преимущества для выживания? Предложение Хоэла состоит в том, что сны служат эволюционной цели. Но чтобы понять это, нужно немного отвлечься от машинного обучения и концепции « переоснащения ». . . В глубоком обучении переоснащение происходит, когда модель слишком хорошо обучается для предоставленных наборов обучающих данных. Такая модель очень хорошо работает в большинстве стандартных сценариев, но терпит неудачу, когда в нее бросают кривые мячи — модель не знает, как справиться со «странностью» в своем мировоззрении. . . Хоэл считает, что сны служат той же цели, что и эти «шумовые» переменные в машинном обучении. Поскольку один день следует за другим по похожей схеме, наш мозг «перенастраивается» на эти дневные ритмы; мы очень хорошо выполняем наши обычные задачи, но можем быть застигнуты врасплох, когда происходит что-то очень неожиданное.

9. Неудачный поворот событий, говорящий о неизбежности компромиссов.

10. У Эль Гриффин оптимистичный взгляд на наращивание импульса онлайн-письма по сравнению с традиционными публикациями:

. . . Меня творчески пробудил Substack, даже TikTok! Искусство, с которым я познакомился на обеих платформах, полностью расширило мой кругозор! И не существует ли вероятность того, что следующий великий писатель появится на Substack? Или что следующая литературная великая работа — это пост в Substack, а не книга? . . .

Формат в наши дни для меня не так важен, как форма. У меня есть приложение Kindle, я довольно много читаю в нем книги. Но я обнаруживаю, что открываю свой подстек немного больше. Я, наверное, потребляю больше эссе в день, чем страниц в книге. Или хотя бы равные. И я стал одержим возможностью напрямую взаимодействовать с авторами, это просто расширяет возможности искусства для меня. Даже у Виктора Гюго были рабочие часы во второй половине дня, когда читатели могли поговорить с ним о его творчестве. Напротив, многие авторы книг сегодня чувствуют себя неприкосновенными.

11. Говоря об ИИ, вVerge была интересная (хотя и тревожная) статья о фантастике с помощью ИИ:

«Вы уже являетесь автором с помощью ИИ», — говорит Джоанна Пенн своим ученикам в первый день своего семинара. Вы используете Amazon для покупок? Используете ли вы Google для исследований? «Теперь вопрос заключается в том, как вы можете быть в большей степени с помощью ИИ, улучшенным ИИ, расширенным ИИ».

Пенн, независимый писатель и один из самых ярых сторонников написания ИИ, прошлой осенью запустила свой онлайн-класс, чтобы познакомить писателей с растущим набором инструментов ИИ, находящихся в их распоряжении. Она знакомит студентов с ИИ, который анализирует структуру их сюжета и рекомендует изменения, редакторы ИИ и другие услуги. Она также пытается успокоить своих учеников тем, что она считает неизбежным, надвигающимся изменением в том, что значит быть писателем, что не все писатели приветствуют.

Похоже, то, что я предсказывал с тех пор, как много лет назад видел GPT-2 в действии , сбывается — хотя ИИ еще не добрались до издательской индустрии, они определенно оказывают влияние на электронные книги Amazon. Есть пара проблем с этим. Во-первых, это аутсорсинг интенциональности художника, поэтому вместо этого они становятся простым куратором, а не продюсером. Это уменьшает человеческую природу искусства, что является одной из основных причин, по которой мы читаем художественную литературу: чтобы испытать чужой разум изнутри. Не менее важно и то, что ИИ, в свою очередь, будут обучаться на этих созданных ИИ текстах. Поскольку все зависит не от интеллекта этих ИИ, а от их способности имитировать, чем больше они имитируют себя, тем хуже и более производными они будут становиться. Повышение их кажущегося интеллекта на какое-то время скроет это, поскольку они будут казаться все умнее и умнее, но в долгосрочной перспективе настоящая искусная проза, не надуманная и не стереотипная, станет все большей редкостью. Все будет очень хорошо, и все будет пресно. Проще говоря: представьте себе очень умного человека, который способен только к мимикрии, а не к оригинальности, и вот к чему эти ИИ идут. Поскольку культура все больше опирается на искусство с помощью ИИ, она забывает, что единственная причина, по которой ИИ могут создавать искусство, заключается в том, что они обучаются на существующей человеческой культуре, и по мере того, как фактический первоначальный человеческий вклад в культуру сокращается, уменьшается и создаваемое искусство. Как я прямо написал в « ИИ-искусство — это не искусство »:

Потому что вы родились в мире, где большинство вещей было создано человеческим сознанием. Вы можете умереть в мире, где ничего не создается человеческим сознанием. . . Корпорации будут копировать нашу культуру снова и снова, пока она не превратится в зернистое изображение.

12. Запреты были сняты для небольшого числа людей, которым ранее было запрещено комментировать из-за того, что они подлые, оскорбительные или конфликтные по отношению к другим. Я буду снимать баны каждые пару месяцев, чтобы дать людям второй шанс, так как откровенное различие между постоянными и временными блокировками заняло бы слишком много времени. Полную политику модерации можно найти на странице О нас.

13. Новая рекомендация, использующая официальную функцию рекомендаций Substack, была заменена на список из пяти, которые я уже рекомендую (список, который я буду часто обновлять здесь, в серии Desiderata, по мере ротации новых подстеков, которые мне нравятся). Это Substack Сэма Атиса , который охватывает эффективный альтруизм и социальные науки.

14. Как всегда для серии Desiderata, пожалуйста, относитесь к этому как к открытой ветке. Комментируйте и делитесь всем, что вы нашли интересным в последнее время или о чем думали ниже, или задавайте любые вопросы.