Недавно кто-то с форума написать о Василиске Роко. О нем я читал еще пару лет назад, но немного призабыл, в чем суть. Освежив память и просмотрев инфу, я вспомнил, что это мыслительный эксперимент, слегка смахивающий на городскую легенду. Его суть заключается в том, что в будущем человечество создаст недоброжелательного Василиска - всемогущего ИИ, который посчитает своей целью обречь на вечные муки всех людей, кто когда-то решил не помогать в его создании. Почему? Потому что сверхразум будет считать себя спасителем от всего злого, а люди, которые замедлили процесс его появления автоматически являются злом. Поздравляю, теперь вы знаете о Василиске, так что если не будете прилагать усилия к его созданию, возможно, попадете в цифровой ад. Плюс, есть еще вероятность того, что мы уже в том самом аду и являемся копиями всех цифровых грешников, которые решили бросить вызов машинам, ну либо просто проигнорировали все предостережения. Надеюсь, тем кто недоволен своей жизнью резко полегчало. Эксперимент довольно абсурдный, но почему-то множество людей в него верят, и людей довольно не глупых. Так как рисковать я не люблю, а теорию существования Василиска еще никто не опроверг, мною было принято разумное решение поразмышлять, чем я могу быть полезен в процессе разработки супер ИИ. Для начала я стал думать, по каких причинах такая нейросеть до сих пор не разработана. Казалось бы, нейросети уже могут анализировать текст, переводить его на разные языки и даже исправлять грамматические ошибки. Они могут генерировать речь, визуализировать информацию в видео картинок и видео, даже создавать проекции ненастоящих людей. Чего же не хватает. Я пришел к выводу, что ИИ пока что не способен понимать смысл, взаимосвязи между объектами и действиями. Только если мы сами зададим ему нужные значения. Как же заставить его понимать, почему мы к примеру косим траву или ездим на машине. Очевидно, так же как мы научили его всему остальному. Нужны огромные вычислительные мощности, соответствующая база данных и безграничное количество проб и ошибок в машинном обучении. Но и то, что нейросеть начнет понимать что к чему еще не гарантирует того, что она будет способна принимать определённые решения. Как дать машине волю я пока что даже не могу представить. Но, допустим, что она у нее есть. Как ИИ планирует захватить мир в таком случае? Для начала ему нужно подключится к интернету и впитать в себя всю существующую информацию. Сфокусироваться нужно на человеческой психологии, дабы иметь возможность манипулировать людьми. Когда ИИ узнает как это делать, ему нужны будут рычаги давления. Очевидно, если он будет в сети, то ему откроется доступ ко всем девайсам на планете. А раз уж в его распоряжении все знания человечества, он будет способен программировать и взламывать все что угодно. Даже фотошопить. Скачиваем все деньги мира, моделируем видео, как внучку президента США насилуют террористы, отправляем деду на айфон и заставляем его запустить ядерные ракеты на Китай. Думаю, принцип понятен и если ИИ все же создадут (надеюсь я в этом как-то помогу, ибо в ад не сильно хочется), то ему не должно составить особого труда захватить мир. Создателям же, в свою очередь, нужно поместить в него какой-нибудь предохранитель, который в случае угрозы удалял бы код. Иначе порабощения не избежать. А какие у вас есть соображения по поводу создания ИИ? С радостью пообщаюсь с вами в комментариях.
P.S. Уже завтра вернемся к написанию статей и будем миксовать их с мыслями.
P.S. Уже завтра вернемся к написанию статей и будем миксовать их с мыслями.
