Читаю сегодня эссе проф. Сингера об этике и робототехнике. Автор такой:

Еще сложнее вопрос, как понять, что робот уже обладает сознанием, а не просто имитирует сознание, потому что его так запрограммировали. Тут может помочь хорошее понимание его программного компонента: позволяет ли написанный его разработчиками код имитировать сознание? Если да, нет причин считать такого робота сознательным. Но если он создан с некими способностями, которые случайным образом привели к возникновению сознания, у нас есть все основания считать его действительно сознательным существом. Не исключено, что движение за права роботов зародится именно в этот момент.

“Вряд ли, вряд ли все так радужно…” — думаю я. И ровно в этот же самый день попадается мне такая на первый взгляд оптимистичненькая статья о виртуальных детях будущего, которые могут существовать только в цифровом мире-надстройке над реальностью, но неотличимы от органических детей, и с ними можно будет всячески взаимодействовать. (https://www.theguardian.com/technology/2022/may/31/tamagotchi-kids-future-parenthood-virutal-children-metaverse) С точки зрения уменьшения человеческого страдания это, разумеется, прогресс. Но с точки зрения страдания искусственных детей?.. Вот это уже вопрос гораздо более интересный.

Более того, кое-что из бейби-футуризма уже воплощено в реальность. Оклендский Институт Биоинженерии давно разработал BabyX — виртуального ребенка по образу и подобию реальной девочки, и в этом виртуальном ребенке симулируются нейрохимические реакции. (https://www.auckland.ac.nz/en/abi/our-research/research-groups-themes/laboratory-animate-technologies.html) Она постоянно апдейтится. И она реагирует на цифровой аналог дофамина И КОРТИЗОЛА (а это про стресс, если что). Её “мозг” — это компьютерные алгоритмы, повторяющие поведение нервной системы полуторагодовалого ребенка. Она способна разочаровываться, сердиться, плакать. И, если честно, совсем не напрячься в этом месте можно только если вообще примерно ничего не знать об основных проблемах сознания, в наивности своей думая, будто оно ну никак не может возникнуть на чем-то, кроме мяса.

*Сами создатели девочки в данный момент не считают ее реально чувствующей (кто бы сомневался, когда у них литералли фирма по продаже подобных моделей), но и они не отрицают, что в дальнейшем девочка может стать действительно сентиентной, и тогда все-таки окажется уязвимой к дурному обхождению. Но вот тогда, мол, и будем соображать, как же ее защищать от плохих людей. (https://link.springer.com/article/10.1007/s43681-021-00076-x)*

При этом некоторые видные эксперты утверждают, что даже обычные нейросети, возможно, уже развились до состояния сентиентности. (https://80000hours.org/podcast/episodes/chris-olah-interpretability-research/) Что мы уже довели их до способности ощущать, но сами об этом не знаем. И понятия не имеем, что причиняем им страдания в неизвестных количествах.

Короче, проф. Сингер, конечно, очень умный мужчина. Он не на ровном месте один из крупнейших философов современности. Но все-таки уж в этом месте проф. Сингер был, по всей видимости, неправ. Ведь если создатели намеренно заложили в свое создание схожесть с нейрореакциями человека, это отнюдь не означает, что то же самое создание не может быть и в самом деле сознательным и не может на самом деле ощущать. Потому что одно вовсе не исключает другого. А значит, беспокоиться о том, что мы на самом деле создаем не хайтек-объекты, а субъектов, следует В ЛЮБОМ СЛУЧАЕ.

И в случае с нейросетями, о которых якобы можно не волноваться, ведь они настолько на нас непохожи.

И в случае с гуманоидными созданиями, о которых якобы можно не волноваться, ведь они настолько на нас похожи.

Это вообще не та область, где есть место какой-либо беззаботности. Хоть вы опасаетесь, что пострадают творцы, хоть вы опасаетесь, что страдать будут сами их творения.

А в остальном эссе отличное:

Впрочем, пока что беспокоиться стоит не о том, что роботы могут причинить вред человеку, а, наоборот, о том вреде, который роботам можем причинить мы. Сейчас они просто вещь, собственность. Но что, если, усложняясь, они начнут испытывать чувства? В конце концов, что такое человеческий мозг, как не очень сложная машина? Если машины обзаведутся сознанием, будем ли мы считаться с их чувствами? История отношений с единственными из известных нам чувствующих существ, кроме людей, — с животными — не позволяет надеяться, что чувствующие роботы станут для нас не имуществом, а существами, с чьими моральными правами и интересами необходимо считаться.

И еще:

Ученый-когнитивист Стив Торренс отмечает, что мощные технологические инновации, например автомобили, компьютеры и телефоны, имеют тенденцию распространяться быстро и неконтролируемым образом. Появление в таком масштабе сознательных роботов, которых мы не примем в свой круг существ моральных, может привести к массовому дурному обращению с ними.