Должны ли мы начать регулировать “ультраопасные” исследования, которые могут нас уничтожить?
16 июля 1945 года одни из величайших умов Земли собрались в пустыне Нью-Мексико, чтобы наблюдать за первым испытанием ядерного оружия. Когда напряжение нарастало перед взрывом в 5.30 утра, физик Энрико Ферми пошутил присутствующими учеными, включая Ричарда Фейнмана и Роберта Оппенгеймера, сказав: “Давайте заключим пари, загорится ли атмосфера в результате этого испытания”.
В основе шутки Ферми лежал серьезный вопрос, заданный в первые месяцы Манхэттенского проекта Эдвардом Теллером: существует ли вероятность того, что при взрыве ядерного оружия температура взрыва может привести к слиянию ядер легких элементов в атмосфере, высвобождая дальнейшее огромное количество атомной энергии (реакция, которая будет использована в более позднем, более крупном ядерном оружии)? А если да, то может ли произойти цепная реакция, в результате которой вся атмосфера планеты Земля вступит в реакцию ядерного синтеза.
Это предложение было воспринято всерьез, но последующие расчеты показали, что такая цепная реакция невозможна. Но как и в любой шутке, в этой тоже присутствовал серьезный смысл. Многие из ученых поняли, что наступил важный период в истории человечества. Наступил момент, когда наше стремление к знаниям достигло той точки, что мы начали задаваться вопросом, обладаем ли мы теперь богоподобной мощью и способностью уничтожить всю Землю.
За прошедшие более чем три четверти века дальнейшее развитие науки породило новые опасения, что человечество может устроить свой собственный рукотворный апокалипсис. Например, сценарий “серой слизи” – восставших молекулярных наномашин, поглощающих все на Земле; предположение, что коллайдеры частиц могут уничтожить Землю через создание черных дыр или странной материи; появление злобного, сверхразумного искусственного интеллекта типа “Скайнет” из фильма “Терминатор”.
Но самое тревожное даже не то, что все эти сценарии со временем могут быть в той или иной мере воплощены в жизнь, а то, что технологии, необходимые для их реализации, будут становиться все более доступными и массовыми. Так не пора ли начать тщательно контролировать и регулировать исследования в некоторых из этих областей?
Эти проблемы лежат в основе новой работы, опубликованной на сайте arXiv.org, “Агентства и риск научных экспериментов“, автором которой является доцент права Эрик Э. Джонсон:
“Существует любопытное отсутствие правовых ограничений для государственных учреждений США, проводящих потенциально рискованные научные исследования. Некоторые из этих исследований могут представлять реальный риск гибели миллионов людей или даже уничтожения планеты. Но действующее законодательство оставляет за агентствами право самим решать, укладывается ли их деятельность в рамки допустимого риска. В данной статье рассматривается, в какой степени и при каких обстоятельствах закон должен разрешать частные иски против таких нерегулируемых начинаний исследовательских агентств. Рассмотрение этого вопроса не только интересно само по себе, оно позволяет нам проверить фундаментальные концепции компетенции агентств и роли судов”.
Джонсон отмечает, что законы, которые регулируют большую часть подобных исследований, были написаны в 1940-х годах и, таким образом, “никогда не понимали сегодняшних экзотических опасностей исследовательских агентств”. Более того, по его словам, этот правовой пробел “мог бы быть менее тревожным, если бы не идеи поведенческой экономики, неоклассической экономики, когнитивной психологии и литературы по управлению рисками, которые указывают на то, что ученые агентства склонны неправильно оценивать, насколько рискованна их деятельность на самом деле”.
Джонсон поражен тем, что, учитывая, что “экзотические риски исследовательской науки, обсуждаемые здесь, представляют собой поистине элитный набор угроз”, “тем более примечательно, что наша правовая структура воздерживается от борьбы с ними”.
В качестве примеров для обсуждения он рассматривает два сценария: коллайдеры частиц, создающие странную материю, и космический корабль на плутониевом топливе, врезающийся в Землю. Оба эти сценария уже вызывали реальную озабоченность общественности по поводу возможных опасностей: в 1999 году – озабоченность по поводу создания “странной материи” на релятивистском коллайдере тяжелых ионов (RHIC); во втором случае – протест “Остановите Кассини” в преддверии запуска зонда в 1997 году. Джонсон изучает дебаты, которые имели место относительно рисков обоих этих сценариев, и ясно показывает, что самооценке вовлеченных агентств нельзя доверять: “когда речь идет о сценариях низкой вероятности/высокого вреда, вызванных собственной деятельностью исследовательского агентства, то оно вряд ли сможет адекватно защитить общественные интересы”.
Например, НАСА подсчитало, что количество возможных смертей в результате падения зонда “Кассини” на Землю составит 5000 человек, в то время как другие известные ученые оценивали цифры от 200 000 до 40 миллионов. А сэр Мартин Рис раскритиковал статью, в которой отвергались риски странглетов (гипотетический объект, состоящий из “странной материи”), заявив, что теоретики “похоже, стремились успокоить общественность… а не провести объективный анализ”.
Подводя итог, Джонсон отмечает:
“Подобные проблемы, связанные с ультраопасными рисками, вряд ли исчезнут сами по себе. Напротив, мы должны ожидать их увеличения… Таким образом, отказ закона иметь дело с риском, созданным исследователями, становится все более нежелательным”.
Читайте также: Что такое квантовый апокалипсис и стоит ли нам беспокоиться?