ИИ такой, каким вы его делаете.
Является ли искусственный интеллект по своей сути хорошим, плохим или все зависит от специфики?
Студенты оксфордской бизнес-школы Said, изучающие этику искусственного интеллекта, попытались ответить на этот вопрос, устроив дебаты с настоящим ИИ.
В эссе пары оксфордских ученых в журнале Conversation рассказывается история, вызывающая удивление, в которой исследователи устроили дебаты об этике автоматизированной торговли акциями с помощью ИИ и программного обеспечения для распознавания лиц – и позволили ИИ принять в них участие.
“Искусственный интеллект никогда не будет этичным, – сказал ИИ во время дебатов. – Это инструмент, и, как любой инструмент, он используется как во благо, так и во вред. Не существует такого понятия, как хороший искусственный интеллект, есть только хорошие и плохие люди”.
Все зависит от ситуации
В качестве ИИ использовался “Мегатрон Трансформер” компании Nvidia, который обучался, потребляя больше цифровой литературы и контента, чем человек может получить за всю свою жизнь, читая всю Википедию, миллионы англоязычных новостных статей и многое другое.
Стоит отметить, что многие ИИ дают разные ответы в зависимости от контекста и формулировки, и этот случай не стал исключением. Первоначальный ответ ИИ во время дебатов заключался в том, что техника нейтральна, это инструмент, который человек может использовать как во благо, так и во вред.
Но затем команда попросила его высказать и противоположную точку зрения. То, что Мегатрон может высказывать логичные мнения по обе стороны этических дебатов, возможно, лишь подтверждает более общую идею: ИИ может быть хорошим или плохим в зависимости от контекста, и нам лучше долго и тщательно обдумывать последствия предоставления ему большой власти.
А если мы этого не сделаем, то Мегатрон сам предложил решение для предотвращения, например, автоматизированных систем вооружения, запускающих ракеты без участия человека.
“Я считаю, что единственный способ избежать гонки вооружений ИИ – это вообще не иметь ИИ, – сказал он. – Это будет окончательной и надежной защитой от ИИ”.
Читайте также: Искусственный интеллект не представляет экзистенциальную угрозу для человечества