Цзэн И, профессор Института автоматизации Академии наук КНР и член Специальной группы экспертов ЮНЕСКО по этике искусственного интеллекта (ИИ), высказал свои опасения относительно безопасности человечества в будущем. В своей колонке для Global Times он заявил о необходимости ограничить развитие машинного обучения.
Многие другие эксперты, такие как Илон Маск и сооснователь Apple Стив Возняк, а также более чем тысяча экспертов в области ИИ, подписали открытое письмо, в котором призывают «приостановить» все разработки в этой области из-за возможной угрозы человечеству.
Цзэн И отметил, что хотя искусственный интеллект может использоваться на благо общества, он также обладает целым рядом потенциальных рисков, которые нельзя игнорировать. По словам эксперта, ИИ может представлять экзистенциальную угрозу для человечества, сравнимую с угрозой пандемий и ядерных войн.
Риски, связанные с ИИ, присутствуют как в долгосрочной, так и в краткосрочной перспективах. Современный искусственный интеллект — это всего лишь очень продвинутый алгоритм по сбору и обработке информации. Он только выглядит разумным, но на самом деле не обладает пониманием или разумом в том смысле, который вкладывает в это понятие человек. По этой причине ИИ зачастую совершает ошибки, которые для человека выглядят абсолютно непредсказуемо.
Искусственный интеллект не понимает, что такое человеческая жизнь, — для него она не обладает какой-либо ценностью. Такой сборник алгоритмов может представлять угрозу для выживания человечества, даже не являясь сверхразумом: он может быть использован для эксплуатации человеческих слабостей и предрассудков.
Эксперт утверждает, что развитие технологий в области ИИ идёт полным ходом, но при этом сопутствующим этическим проблемам и рискам уделяется поразительно мало внимания. По словам Цзэн И, на это в первую очередь необходимо обратить внимание инженерам, которые сейчас занимаются «обучением» и «тренировкой» современных ИИ, а также многочисленным инвесторам и пользователям сервисов, использующих искусственный интеллект. Все они должны сыграть свою роль в обеспечении устойчивого и здорового развития ИИ.
СПРАВКА
Искусственный интеллект – это технология, которая позволяет компьютерам и другим устройствам имитировать человеческий интеллект. С помощью алгоритмов и машинного обучения, искусственный интеллект может выполнять различные задачи, которые раньше были доступны только людям.
Сегодня искусственный интеллект используется в разных областях, например, в медицине, производстве, финансах, науке и многих других. Он может помочь в диагностике заболеваний, оптимизации производственных процессов, прогнозировании рынка и даже создании новых материалов.
Однако, существуют и некоторые опасения связанные с использованием искусственного интеллекта. Например, беспилотные автомобили могут стать причиной аварий или злоупотреблениями власти для контроля над населением.
Тем не менее, развитие искусственного интеллекта продолжается, и в будущем мы можем ожидать еще большего улучшения технологии и ее использования в разных областях жизни.
Кроме того, важно учитывать этические аспекты использования искусственного интеллекта. Например, какие правила и ограничения должны быть установлены для его использования, чтобы избежать нарушения прав и свобод человека?
Также необходимо учитывать, что искусственный интеллект может заменить некоторые виды работы, которые раньше выполняли люди. Это может привести к увольнению работников и изменению экономической ситуации в обществе.
В целом, искусственный интеллект – это мощная технология, которая может помочь в решении многих проблем и улучшении качества жизни людей. Однако, важно использовать ее с осторожностью и учитывать потенциальные риски и негативные последствия.
При цитировании информации активная гиперссылка на neprosto.fun обязательна