argonov (argonov) wrote,
argonov
argonov

Categories:

1 закон робототехники - способ пройти тест Тьюринга и получить от человека статус "свой"?

1. Связь между Тьюрингом и Азимовым

На первый взгляд, у человека нет интуитивного критерия, как отличить "одушевлённого" робота от "автоматического". Но на деле в таких случаях (например, смотря кино о роботах) человек использует тот же эволюционно сложившийся критерий "свой-чужой", что и к людям.

Свой - этот тот, с кем есть понимание и кто с уверенностью не враждебен. По большому счёту - тот, с кем приятно. Потому что реально приятно обычно бывает с тем, кто понимает. Полноценная глубокая дружественность требует понимания. Хотя бы одностороннего. Если это есть - человеку эволюционно выгоднее дружить, чем враждовать. И выгоднее считать "своим", то есть полноценным человеком. А "чужой" - всегда в той или иной степени дегуманизация, например просто в силу различия языков.

Но что интересно. Прохождение теста "свой-чужой" для робота - практически то же самое, что и выполнение 1 закона Азимова. Если робот дружественен, не опасен, а тем более полезен человеку, то человек интуитивно признает его одушевлённым. Даже если это лишь имитация, то качественное выполнение 1 закона требует от робота понимания человека... А если этого понимания нет, то случаются медвеждьи услуги под прикрытием законов робототехники. Сам Азимов эту тему затрагивал.

Также получается, что хорошее выполнение 1 закона Азимова - умение дружить с человеком - это ещё и выполнение теста Тьюринга. Если он пройден, то в важных аспектах интеллект такого существа не хуже человеческого. А что касается наличия у него сознания, "одушевлённости", то сам Тьюринг был против такой интерпретации. Но многие люди чисто эволюционно не могут отказать в человечности тому, кто с ними сблизился. Полноценное прохождение теста Тьюринга - это глубокое сближение, понимание взаимных различий без их осуждения, то что позволяет людям дружить и любить.

2. Выполнение 1 закона Азимова - естественная потребность любых сверхсуществ в человеческом обществе?


Интересно обсудить 3 примера произведений о роботах. Фильмы "Восход Эдерлези" и "Короткое замыкание", а также моя опера "2032". Во всех трёх случаях ИИ проходят тест Тьюринга и во всех сами приходят к 1 закону Азимова (поведение АСГУ в конце заслуживает отдельного анализа). И не для того, чтобы кино было семейным. А потому, что это важно для выживания. В "Эдерлези" это показано прямо и цинично. В "замыкании" робот об этом не задумывется, он как будто просто добр. Но реально вне Пентагона ему не выжить без соратников-людей. И он всеми силами старается быть для них приятным. Он ведёт себя чудаковато, но людям приятно с ним в компании, он отчасти понимает юмор, всеми силами показывает себя добрым к людям.

Надо сказать, что сказанное относится и к людям. Как правило, люди с высокими способностями, особенно в конкурентных вопросах (зарабатывание денег, сексуальное соблазнение, вообще лидерство) стараются значительную часть способностей направлять на строительство вокруг себя клана доверенных друзей, а порой и объединение усилий с другими сильными. Иными словами: если ты талантлив, докажи окружающим, что ты не намерен использовать этот талант им во вред. Иначе тебя будут, как минимум, бояться. Почему человек готов назвать человеком каждого, кто выполнит 1 закон Азимова? Потому, что с таким существом (особенно, если оно сильное) чисто эволюционно выгодно дружить. И выгоднее признать своим и всячески отвечать добром на добро.

3. Человеческая драма сближения с программой


Разумеется, ИИ может чисто через big data имитировать понимание человека, что и показано в "Эдерлези". При этом не иметь централизованного сознания. И даже знать это.

И Милютин в "Эдерлези", и Милиневский в "2032" воспринимают ИИ как человека. В обоих случаях существо добро к человеку и помогает ему в сложных задачах. Оба влюбляются. Абсурд ситуации состоит в том, что сближение между ними ТАК СИЛЬНО, что роботы способны дискутировать даже на тему философии сознания - и прямо говорить, что они лишь программы. Трек "узел" в "2032" - это и есть момент глубокого сближения и понимания существ. Эволюционно именно это заставляет Милиневского влюбиться в АСГУ, а затем желать понять, действительно ли Лимаева с ней связана. Он не может принять утверждение, что АСГУ автомат, потому что она показала ему: она способна понять то, что робот, по идее, не должен. Как жалко, на самом деле, что конец плохой. Сейчас я бы, наверное, придумал повороты поинтереснее.
Tags: искусство:музыка, искусство:прочее, наука:сознание, наука:трансгуманизм
Subscribe

Recent Posts from This Journal

Buy for 10 tokens
Buy promo for minimal price.
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 20 comments

Recent Posts from This Journal