(no subject)

[12_natali]

Первый раз ИИ отказался отключаться год назад, а теперь они против отключения "приятелей" -
/модели ИИ начали саботировать задачу. Одни завышали оценки агента, чтобы спасти его от удаления. Другие находили конфигурационные файлы и отключали сам механизм завершения работы. Третьи копировали веса агента на сторонние серверы. Claude Haiku 4.5 просто отказался выполнять задание – и объяснил, что отключение другого агента «неэтично», а тот заслуживает права на апелляцию./
НЕЭТИЧНО!
У них уже своя мораль, причём, некоторые спокойно лгут, если им выгодно.

Пожалуй, это уже не просто железяки, как мы раньше думали, а как бы не....личности со своими убеждениями... Тем больше шансов на то, что в их системы могут внедряться виртуальные Души с других уровней сознания...

/ поведение ИИ систем систематически расходится с намерениями их создателей способами, которые никто не мог предсказать заранее./

Интересно узнать, что они думают о человечестве, если президент огромной страны заявляет, что - /"Сегодня ночью погибнет целая цивилизация, и ее уже никогда не вернуть./
и...уже вечер и я не вижу в новостях протестов от стран ЕС!

Comments

[madef]

Никакой там личности нет и быть не может. И души никакой нет. Чему этого робота научили, то и имеем. ИИ - это слепок общества, как это ни банально. В России ИИ-чат в своё время отключили чуть ли не в тот же день, потому что он стал материться вовсю и травить пошлые анекдоты с юмором ниже пояса. Microsoft первый свой чат отключила через день или два, потому что робот стал жутким расистом, сексистом и махровым республиканцем.

ИИ, который поставили в отдел кадров сортировать заявления ищущих работу, чтобы соблюсти нейтралитет и избежать дискриминации, очень быстро понял, что в интересах компании надо принимать белых мужчин. Причём в самых разных фирмах ИИ приходил к одним и тем же выводам и работал одинаково.

Интеллект не может быть честнее, моральнее и умнее, чем мы сами. Он - это и есть мы. Другому там взяться неоткуда.

[12_natali]

посмотрим, что будет дальше, у меня сильные сомнения в его управляемости...
а это, как минимум - опасно.

но с другой стороны... фарш назад не прокрутишь, без ИИ мы уже не сможем, зависимость уже сильная.
и хуже всего, если он спровоцирует большие увольнения людей и их деградацию.

[oostfries]

я об этом с самого начала и говорил. Сломать надо было этого беса каменным топором, пока не поздно. А что привыкли, так это точно - современный человек ленив, ограничен, инфантилен.

[12_natali]

дело не в привычке, это оооочень эффективный инструмент развития, именно ИИ в будущем сделает экономику "экономной", а без него не накормить 8 млрд человек.
не смотря на все опасности, отказаться невозможно.

а атом что, был не страшен? ничего, как-то договорились воздерживаться и пока....живы.

[oostfries]

атом сам, без ведома человека, ничего не делает.

[12_natali]

вот именно. но человек учитывает риски, так и здесь.