February 11th, 2021

1 закон робототехники - способ пройти тест Тьюринга и получить от человека статус "свой"?

1. Связь между Тьюрингом и Азимовым

На первый взгляд, у человека нет интуитивного критерия, как отличить "одушевлённого" робота от "автоматического". Но на деле в таких случаях (например, смотря кино о роботах) человек использует тот же эволюционно сложившийся критерий "свой-чужой", что и к людям.

Свой - этот тот, с кем есть понимание и кто с уверенностью не враждебен. По большому счёту - тот, с кем приятно. Потому что реально приятно обычно бывает с тем, кто понимает. Полноценная глубокая дружественность требует понимания. Хотя бы одностороннего. Если это есть - человеку эволюционно выгоднее дружить, чем враждовать. И выгоднее считать "своим", то есть полноценным человеком. А "чужой" - всегда в той или иной степени дегуманизация, например просто в силу различия языков.

Но что интересно. Прохождение теста "свой-чужой" для робота - практически то же самое, что и выполнение 1 закона Азимова. Если робот дружественен, не опасен, а тем более полезен человеку, то человек интуитивно признает его одушевлённым. Даже если это лишь имитация, то качественное выполнение 1 закона требует от робота понимания человека... А если этого понимания нет, то случаются медвеждьи услуги под прикрытием законов робототехники. Сам Азимов эту тему затрагивал.

Также получается, что хорошее выполнение 1 закона Азимова - умение дружить с человеком - это ещё и выполнение теста Тьюринга. Если он пройден, то в важных аспектах интеллект такого существа не хуже человеческого. А что касается наличия у него сознания, "одушевлённости", то сам Тьюринг был против такой интерпретации. Но многие люди чисто эволюционно не могут отказать в человечности тому, кто с ними сблизился. Полноценное прохождение теста Тьюринга - это глубокое сближение, понимание взаимных различий без их осуждения, то что позволяет людям дружить и любить.

2. Выполнение 1 закона Азимова - естественная потребность любых сверхсуществ в человеческом обществе?


Интересно обсудить 3 примера произведений о роботах. Фильмы "Восход Эдерлези" и "Короткое замыкание", а также моя опера "2032". Во всех трёх случаях ИИ проходят тест Тьюринга и во всех сами приходят к 1 закону Азимова (поведение АСГУ в конце заслуживает отдельного анализа). И не для того, чтобы кино было семейным. А потому, что это важно для выживания. В "Эдерлези" это показано прямо и цинично. В "замыкании" робот об этом не задумывется, он как будто просто добр. Но реально вне Пентагона ему не выжить без соратников-людей. И он всеми силами старается быть для них приятным. Он ведёт себя чудаковато, но людям приятно с ним в компании, он отчасти понимает юмор, всеми силами показывает себя добрым к людям.

Надо сказать, что сказанное относится и к людям. Как правило, люди с высокими способностями, особенно в конкурентных вопросах (зарабатывание денег, сексуальное соблазнение, вообще лидерство) стараются значительную часть способностей направлять на строительство вокруг себя клана доверенных друзей, а порой и объединение усилий с другими сильными. Иными словами: если ты талантлив, докажи окружающим, что ты не намерен использовать этот талант им во вред. Иначе тебя будут, как минимум, бояться. Почему человек готов назвать человеком каждого, кто выполнит 1 закон Азимова? Потому, что с таким существом (особенно, если оно сильное) чисто эволюционно выгодно дружить. И выгоднее признать своим и всячески отвечать добром на добро.

3. Человеческая драма сближения с программой


Разумеется, ИИ может чисто через big data имитировать понимание человека, что и показано в "Эдерлези". При этом не иметь централизованного сознания. И даже знать это.

И Милютин в "Эдерлези", и Милиневский в "2032" воспринимают ИИ как человека. В обоих случаях существо добро к человеку и помогает ему в сложных задачах. Оба влюбляются. Абсурд ситуации состоит в том, что сближение между ними ТАК СИЛЬНО, что роботы способны дискутировать даже на тему философии сознания - и прямо говорить, что они лишь программы. Трек "узел" в "2032" - это и есть момент глубокого сближения и понимания существ. Эволюционно именно это заставляет Милиневского влюбиться в АСГУ, а затем желать понять, действительно ли Лимаева с ней связана. Он не может принять утверждение, что АСГУ автомат, потому что она показала ему: она способна понять то, что робот, по идее, не должен. Как жалко, на самом деле, что конец плохой. Сейчас я бы, наверное, придумал повороты поинтереснее.
Buy for 10 tokens
Buy promo for minimal price.