На тему захвата мирового господства искусственным суперинтеллектом снято немало фильмов. Сейчас это кажется выдумкой режиссеров. Но ведь когда-то подводная лодка, полет на луну и вертолет в романах Жюля Верна для его современников выглядел фантастикой. Однако спустя годы многое сбылось.
Может сценарии рано или поздно станут явью, и AGI действительно потенциально опасен для человечества? Давайте разбираться.
Для начала поясним, что такое AGI.
Искусственный общий интеллект (AGI) — это концепция, которая подразумевает создание интеллектуальной системы, способной выполнять действия сродни человеческому разуму.
На сегодняшний день ИИ не достиг уровня разумности, а может выполнять лишь узкие задачи в рамках конкретного набора параметров, которые основаны на анализе данных и алгоритмах машинного обучения.
Стивен Хокинг еще в 2014 году предупреждал, что «создание полноценного искусственного интеллекта может привести к концу человеческой расы». Он связывал это с тем, что ИИ будет развиваться существенно быстрей, чем люди, которые ограничены медленной биологической эволюцией. В итоге человек окажется вытесненным.
Ученых, изучающих ИИ, особенно настораживает вероятность случайного появления искусственного суперинтеллекта, т.е. AGI, который способен превзойти человеческий интеллект и потенциально угрожать человечеству.
Довольно известные личности такие как Илья Суцкевер (сооснователь OpenAI), Стивен Адлер (руководитель исследований в области безопасности OpenAI) и Джеффри Хинтон (бывший вице-президента Google), покинули высокие посты из-за своих убеждений в будущей экзистенциальной опасности, которую может нести ИИ.
Джеффри Хинтон считает, что уже в течение 5 лет ИИ может стать умнее людей благодаря развитию больших языковых моделей, что в конечном итоге приведет к потере рабочих мест, распространению ложной информации и разработке автономного оружия против человечества.
Адлер тревожится быстрого прогресса в области ИИ и разработки AGI, отмечая, что эта гонка сопряжена с серьезными рисками и может привести к катастрофическим последствиям ведь контроля над такими системами все еще не существует.
К сожалению, на данном этапе мы можем лишь делать предположения.
Как Вы считаете: развитие искусственного интеллекта во благо или во вред человечеству?
ГК Финрул
Может сценарии рано или поздно станут явью, и AGI действительно потенциально опасен для человечества? Давайте разбираться.
Для начала поясним, что такое AGI.
Искусственный общий интеллект (AGI) — это концепция, которая подразумевает создание интеллектуальной системы, способной выполнять действия сродни человеческому разуму.
На сегодняшний день ИИ не достиг уровня разумности, а может выполнять лишь узкие задачи в рамках конкретного набора параметров, которые основаны на анализе данных и алгоритмах машинного обучения.
Стивен Хокинг еще в 2014 году предупреждал, что «создание полноценного искусственного интеллекта может привести к концу человеческой расы». Он связывал это с тем, что ИИ будет развиваться существенно быстрей, чем люди, которые ограничены медленной биологической эволюцией. В итоге человек окажется вытесненным.
Ученых, изучающих ИИ, особенно настораживает вероятность случайного появления искусственного суперинтеллекта, т.е. AGI, который способен превзойти человеческий интеллект и потенциально угрожать человечеству.
Довольно известные личности такие как Илья Суцкевер (сооснователь OpenAI), Стивен Адлер (руководитель исследований в области безопасности OpenAI) и Джеффри Хинтон (бывший вице-президента Google), покинули высокие посты из-за своих убеждений в будущей экзистенциальной опасности, которую может нести ИИ.
Джеффри Хинтон считает, что уже в течение 5 лет ИИ может стать умнее людей благодаря развитию больших языковых моделей, что в конечном итоге приведет к потере рабочих мест, распространению ложной информации и разработке автономного оружия против человечества.
Адлер тревожится быстрого прогресса в области ИИ и разработки AGI, отмечая, что эта гонка сопряжена с серьезными рисками и может привести к катастрофическим последствиям ведь контроля над такими системами все еще не существует.
К сожалению, на данном этапе мы можем лишь делать предположения.
Как Вы считаете: развитие искусственного интеллекта во благо или во вред человечеству?
ГК Финрул