Судові позови та проблеми безпеки
Character.AI був заснований у 2021 році Ноамом Шазьєром і Даніелем де Фрейтасом, двома колишніми інженерами Google, і залучив близько 200 мільйонів доларів від інвесторів. Минулого року Google погодився заплатити близько 3 мільярдів доларів за ліцензію на технологію Character.AI, і Шазієр і де Фрейтас повернулися до Google.
Але зараз компанія стикається з кількома судовими позовами, які стверджують, що її технологія сприяє смерті підлітків. Торік родина 14-річного Сьюелла Сетцера III подала до суду на Characters.AI, звинувативши компанію у відповідальності за його смерть. Сетцер помер самогубством після того, як неодноразово надсилав повідомлення та спілкувався з одним із чат-ботів платформи. Компанія стикається з додатковими позовами, у тому числі з позовами сім’ї з Колорадо, чия 13-річна донька Джуліана Перальта померла через самогубство у 2023 році після використання платформи.
У грудні Character.ai оголосив про зміни, які включали краще виявлення правопорушного вмісту та переглянуті умови обслуговування, але ці заходи не обмежували неповнолітніх користувачів у доступі до платформи. Інші сервіси чат-ботів штучного інтелекту, такі як ChatGPT від OpenAI, також потрапили під пильну увагу щодо впливу їхніх чат-ботів на молодих користувачів. У вересні OpenAI представив функції батьківського контролю, спрямовані на надання батькам кращої видимості того, як їхні діти використовують сервіс.
Ці випадки привернули увагу урядовців, що, можливо, спонукало Character.AI оголосити про зміни в доступі до чату для осіб віком до 18 років. Демократ у Сенаті штату Каліфорнія Стів Паділла, який представив законопроект про безпеку, сказав The New York Times, що «зростає кількість історій про те, що може піти не так. Важливо встановити належні огорожі, щоб ми могли захистити тих, хто найбільш вразливий».
У вівторок сенатори Джош Хоулі та Річард Блюменталь представили законопроект про те, щоб неповнолітні використовували компаньйони ШІ. Крім того, цього місяця губернатор Каліфорнії Гевін Ньюсом підписав закон, який набув чинності 1 січня, згідно з яким компанії, що займаються штучним інтелектом, зобов’язані встановити захисні огорожі на чат-ботах.
