Генеральный директор OpenAI Сэм Альтман не чужд концепции общего ИИ, или AGI, гипотетического будущего, когда машины станут способны выполнять интеллектуальные задачи на уровне человека – или даже выше.
И когда речь заходит о нашей судьбе как вида на Земле, Альтман испытывает смешанные чувства по поводу того, что технологии станут слишком мощными.
С появлением новаторского инструмента компании ChatGPT – чат-бота – эта концепция стала как никогда актуальной. Более 1100 экспертов, руководителей компаний и исследователей, включая руководителя SpaceX Илона Маска, недавно подписали письмо, призывающее ввести шестимесячный мораторий на “эксперименты с ИИ”, которые выводят технологию за рамки GPT-4, недавно выпущенной OpenAI большой языковой модели.
Другие эксперты зашли так далеко, что заявляют, что продвинутый ИИ должен быть вне закона, и даже что мы должны “уничтожить неавторизованный центр данных авиаударом”, чтобы остановить распространение сверхчеловеческого AGI.
Альтман, как ни странно, считает, что эти опасения одновременно и рациональны и абсолютно преувеличены. На самом деле, иногда кажется, что он предсказывает то, что удобно в данный момент: опасность, когда нужно создать шумиху, и безопасность, когда нужно ее приглушить.
“Я стараюсь быть откровенным”, – сказал он в интервью The New York Times в 2019 году. “Делаю ли я что-то хорошее? Или это плохое?”
Ответ на этот вопрос, похоже, до сих пор вызывает споры у генерального директора.
В то время он сравнил работу OpenAI с Манхэттенским проектом – усилиями Соединенных Штатов по разработке атомной бомбы во время Второй мировой войны. Хотя он сказал газете, что считает, что AGI может принести людям огромное богатство, Альтман также признал, что в конечном итоге он может привести к апокалипсису.
Теперь, когда ChatGPT дотсупен всем и дискуссия вокруг безопасности ИИ достигла апогея, что принесло огромное богатство его компании OpenAI, Альтман запел совсем другую песню.
Сейчас Альтман утверждает, что опасения, высказанные в недавно опубликованном письме экспертов, преувеличены.
“Шумиха вокруг этих систем – даже если все, на что мы надеемся, правильно в долгосрочной перспективе – совершенно неуправляема в краткосрочной, – сказал генеральный директор в недавнем интервью NYT, добавив, что у него достаточно времени, чтобы опередить эти проблемы.
Во многих отношениях это довольно удобный риторический прием для генерального директора, который непосредственно выиграл от появления на рынке таких инструментов, как GPT-4.
“В одном разговоре”, – говорит Келли Симс, советник совета директоров OpenAI, – “Альтман представляет обе стороны дискуссионного клуба”.
И хотя, по данным The Wall Street Journal, Альтман не имеет прямой заинтересованности в финансовом успехе OpenAI, ему явно выгодно убедить инвесторов в том, что AGI не собирается уничтожать цивилизацию.
Но являются ли деньги вообще мотиватором для Альтмана, инвестора, который уже сколотил приличное состояние задолго до того, как возглавил OpenAI?
Его давний наставник Пол Грэм сказал, что это, скорее всего, потому что “ему нравится власть” и что он “работает над чем-то, что не сделает его богаче”, потому что “так поступают многие люди, когда у них достаточно денег, что Сэм, вероятно, и делает”.
Короче говоря, Альтман, похоже, хочет переделать мир – даже если он не уверен, как именно его технологии это сделают.
И работает ли он, образно говоря, над атомной бомбой, которая может уничтожить человечество, или над технологиями, которые могут его спасти, похоже, не имеет для него большого значения.
Читайте также: Искусственный интеллект только добавит нам работы, а не упростит жизнь