[показать]Человеческий язык — любой человеческий язык — состоит из массы условностей, массы нечёткостей, массы допущений. Включая как метафоры, так и то, что кажется людям достаточно чёткой на первый взгляд методикой построения фраз.
[показать]Соответственно:
[показать]— чтобы создать искусственный интеллект, способный общаться с людьми, необходимо обучить его нечёткостям.
[показать]Но чётко обучить нечёткостям невозможно.
[показать]Следовательно:
[показать]— всегда будет существовать вероятность ошибки.
[показать]Тут сразу вспоминаются позитронные роботы из перечитываемого мною в настоящее время цикла. Повинующиеся Трём Законам Роботехники — и запрограммированные так, чтобы активное соблюдение Трёх Законов было для них эквивалентно наслаждению, а нечаянное нарушение — страданию вплоть до саморазрушения психики.
[показать]Второе, строго говоря, не совсем ясно. Можно понять смысл положительных и отрицательных связей для поощрения и пресечения определённых действий робота в будущем, но какой смысл в отрицательной связи — в наказании робота страданием — когда нежелательное действие уже произошло? Будь речь о дрессируемом животном или об обучаемой нейронной сети, в которую пытаются таким образом впечатать некие схемы поведения, — сие можно было бы понять. Но в роботов описываемого цикла эти схемы — Три Закона — уже чётко инсталлированы. Робот не станет их соблюдать «ещё лучше» оттого, что был «наказан» за нечаянное их нарушение страданием.
[показать]Теперь вернёмся к сказанному:
[показать]— человеческая речь нечётка.
[показать]Нечётка и двусмысленна также сама наша реальность. Она состоит из миллиардов плохо уловимых взаимосвязей.
[показать]Следовательно, любой позитронный робот из упомянутого фантастического цикла с момента своего изготовления ходит под Дамокловым мечом нечаянного нарушения Трёх Законов. Чётко зная — если он достаточно разумен — что любое его действие с ненулевой вероятностью может привести к беде.
[показать]Не аналог ли человеческого экзистенциального чувства?
[показать]Ввиду упомянутых тенденций само существование для робота неизбежно сопряжено с некоторой степенью напряжения или неотъемлемого дискомфорта. С другой стороны, роботехники описываемого мира явно пытаются скомпенсировать это через положительную обратную связь: несмотря на то, что Три Закона интуитивно кажутся имеющими строгую императивную форму и воздействующими скорее через кнут, чем через пряник, реально активное соблюдение их — в особенности Второго Закона — для робота эквивалентно удовольствию.
[показать]Вероятно.
[показать]Трудно, знаете ли, чётко судить о реалиях мира, где ещё ни разу не пребывал.