Искусственный интеллект ответил ученым, что он никогда не будет этичным

ИИ такой, каким вы его делаете.

Является ли искусственный интеллект по своей сути хорошим, плохим или все зависит от специфики?

Студенты оксфордской бизнес-школы Said, изучающие этику искусственного интеллекта, попытались ответить на этот вопрос, устроив дебаты с настоящим ИИ.

В эссе пары оксфордских ученых в журнале Conversation рассказывается история, вызывающая удивление, в которой исследователи устроили дебаты об этике автоматизированной торговли акциями с помощью ИИ и программного обеспечения для распознавания лиц – и позволили ИИ принять в них участие.

“Искусственный интеллект никогда не будет этичным, – сказал ИИ во время дебатов. – Это инструмент, и, как любой инструмент, он используется как во благо, так и во вред. Не существует такого понятия, как хороший искусственный интеллект, есть только хорошие и плохие люди”.

Все зависит от ситуации

В качестве ИИ использовался “Мегатрон Трансформер” компании Nvidia, который обучался, потребляя больше цифровой литературы и контента, чем человек может получить за всю свою жизнь, читая всю Википедию, миллионы англоязычных новостных статей и многое другое.

Стоит отметить, что многие ИИ дают разные ответы в зависимости от контекста и формулировки, и этот случай не стал исключением. Первоначальный ответ ИИ во время дебатов заключался в том, что техника нейтральна, это инструмент, который человек может использовать как во благо, так и во вред.

Но затем команда попросила его высказать и противоположную точку зрения. То, что Мегатрон может высказывать логичные мнения по обе стороны этических дебатов, возможно, лишь подтверждает более общую идею: ИИ может быть хорошим или плохим в зависимости от контекста, и нам лучше долго и тщательно обдумывать последствия предоставления ему большой власти.

А если мы этого не сделаем, то Мегатрон сам предложил решение для предотвращения, например, автоматизированных систем вооружения, запускающих ракеты без участия человека.

“Я считаю, что единственный способ избежать гонки вооружений ИИ – это вообще не иметь ИИ, – сказал он. – Это будет окончательной и надежной защитой от ИИ”.

Читайте также: Искусственный интеллект не представляет экзистенциальную угрозу для человечества