Лабораторії штучного інтелекту вийшли з-під контролю
Рейтинг користувача: 5 / 5
Італія виявилася першою, хто зробив рішучий практичний крок перед очевидною небезпекою.
Системи штучного інтелекту можуть нести серйозну небезпеку для суспільства. Про це йдеться на сайті некомерційної організації Future of Life Institute.
Тому генеральний директор SpaceX, Tesla та Twitter Ілон Маск, співзасновник Apple Стів Возняк та ще 1100 професорів, інженерів та дослідників закликають призупинити експерименти.
Автори вважають, що навчання та випробування потужніших систем штучного інтелекту, ніж GPT-4, повинні бути припинені щонайменше на півроку, доки не з'являться загальні протоколи безпеки. Якщо таку паузу не можна запровадити швидко, уряди мають втрутитися та ввести мораторій.
Лабораторії штучного інтелекту та незалежні експерти повинні використовувати цю паузу для спільної розробки та впровадження набору загальних протоколів безпеки для вдосконаленого проектування та розробки штучного інтелекту, які ретельно перевіряються та контролюються незалежними зовнішніми експертами.
"Нам слід запитати себе: чи повинні ми дозволити машинам наповнити наші інформаційні канали пропагандою та брехнею? Чи повинні ми автоматизувати всю роботу, включаючи задоволення, яке це приносить? Чи повинні ми розвивати нелюдські уми, які в результаті можуть перевершити нас чисельністю, перехитрити і замінити? Чи ми ризикуватимемо втратою контролю над нашою цивілізацією?" - йдеться у листі.
***
Першою, хто зробив рішучий крок у цьому плані, виявився Італія. В цій країні заборонили доступ до чат-боту СhatGPT після витоку, якого припустився штучний інтелект, розроблений OpenAI. Про це 31 березня повідомила прес-служба Національного управління із захисту персональних даних.
В результаті збою в нейромережі користувачі могли бачити чужі повідомлення, прізвища, імейли та платіжну інформацію платних підписників сервісу.
Італійський регулятор заявив, що OpenAI не має правової основи, що виправдовує масовий збір і зберігання персональних даних.
Крім того, регулятор стурбований відсутністю фільтра для перевірки віку користувачів, що наражає неповнолітніх на ризик отримати відповіді, абсолютно не відповідні їх рівню розвитку.
Компанія OpenAI має 20 днів, щоб відреагувати на рішення влади Італії. Якщо вона цього не зробить, їй загрожує штраф у розмірі 4% річного обороту або 20 мільйонів євро, залежно від того, що виявиться більшим.
Підписуйтесь на наш Telegram канал, щоб знати найважливіші новини першими. Також Ви можете стежити за останніми подіями міста та регіону на нашій сторінці у Facebook.