На первый взгляд, у человека нет интуитивного критерия, как отличить "одушевлённого" робота от "автоматического". Но на деле в таких случаях (например, смотря кино о роботах) человек использует тот же эволюционно сложившийся критерий "свой-чужой", что и к людям.
Свой - этот тот, с кем есть понимание и кто с уверенностью не враждебен. По большому счёту - тот, с кем приятно. Потому что реально приятно обычно бывает с тем, кто понимает. Полноценная глубокая дружественность требует понимания. Хотя бы одностороннего. Если это есть - человеку эволюционно выгоднее дружить, чем враждовать. И выгоднее считать "своим", то есть полноценным человеком. А "чужой" - всегда в той или иной степени дегуманизация, например просто в силу различия языков.
Также получается, что хорошее выполнение 1 закона Азимова - умение дружить с человеком - это ещё и выполнение теста Тьюринга. Если он пройден, то в важных аспектах интеллект такого существа не хуже человеческого. А что касается наличия у него сознания, "одушевлённости", то сам Тьюринг был против такой интерпретации. Но многие люди чисто эволюционно не могут отказать в человечности тому, кто с ними сблизился. Полноценное прохождение теста Тьюринга - это глубокое сближение, понимание взаимных различий без их осуждения, то что позволяет людям дружить и любить.
2. Выполнение 1 закона Азимова - естественная потребность любых сверхсуществ в человеческом обществе?
Интересно обсудить 3 примера произведений о роботах. Фильмы "Восход Эдерлези" и "Короткое замыкание", а также моя опера "2032". Во всех трёх случаях ИИ проходят тест Тьюринга и во всех сами приходят к 1 закону Азимова (поведение АСГУ в конце заслуживает отдельного анализа). И не для того, чтобы кино было семейным. А потому, что это важно для выживания. В "Эдерлези" это показано прямо и цинично. В "замыкании" робот об этом не задумывется, он как будто просто добр. Но реально вне Пентагона ему не выжить без соратников-людей. И он всеми силами старается быть для них приятным. Он ведёт себя чудаковато, но людям приятно с ним в компании, он отчасти понимает юмор, всеми силами показывает себя добрым к людям.
Надо сказать, что сказанное относится и к людям. Как правило, люди с высокими способностями, особенно в конкурентных вопросах (зарабатывание денег, сексуальное соблазнение, вообще лидерство) стараются значительную часть способностей направлять на строительство вокруг себя клана доверенных друзей, а порой и объединение усилий с другими сильными. Иными словами: если ты талантлив, докажи окружающим, что ты не намерен использовать этот талант им во вред. Иначе тебя будут, как минимум, бояться. Почему человек готов назвать человеком каждого, кто выполнит 1 закон Азимова? Потому, что с таким существом (особенно, если оно сильное) чисто эволюционно выгодно дружить. И выгоднее признать своим и всячески отвечать добром на добро.
3. Человеческая драма сближения с программой
Разумеется, ИИ может чисто через big data имитировать понимание человека, что и показано в "Эдерлези". При этом не иметь централизованного сознания. И даже знать это.
Journal information