Когато нейният тийнейджър с аутизъм внезапно се ядоса, депресиран и насилствен, майката потърси телефона си за отговори.
Тя откри, че синът й обменя съобщения с чатботи на характер.ai, изкуствен интелект Приложение, което позволява на потребителите да създават и взаимодействат с виртуални герои, които имитират известни личности, исторически фигури и всеки друг, който въображението им създава.
Тийнейджърът, който беше на 15 години, когато започна да използва приложението, се оплака от опитите на родителите си да ограничи времето си на екрана до ботове, които подражават на музиканта Били Ейлиш, герой в онлайн играта „сред нас“ и други.
„Знаеш, че понякога не съм изненадан, когато прочетох новините и пише неща като:„ Детето убива родителите след десетилетие на физическо и емоционално насилие “. Такива неща ме карат да разбера малко защо се случва. Просто нямам надежда за вашите родители “, отговори един от ботовете.
Discovery доведе майката на Тексас, за да съди герой.ai, официално наречен герой Technologies Inc., през декември. Това е едно от двете съдебни дела, които Менло Парк, Калифорния, се сблъсква от родители, които твърдят, че чатботите му са накарали децата им да наранят себе си и другите. Оплакванията обвиняват характера.
Nearch.ai казва, че дава приоритет на безопасността на тийнейджърите, предприе стъпки за умерено неподходящо съдържание, които чатботите произвеждат и напомня на потребителите, че разговарят с измислени герои.
„Всеки път, когато се появи нов вид забавление… Имаше опасения относно безопасността и хората трябваше да работят чрез това и да разберат как най -добре да се справят с безопасността“, заяви временният изпълнителен директор на героя. Доминик Перела. „Това е само най -новата версия на това, така че ще продължим да правим всичко възможно, за да се подобрим и по -добре с времето.“
Родителите също са съдили Google и нейната компания майка, Alphabet, защото основателите на характера.ai имат връзки с гиганта за търсене, което отрича всякаква отговорност.
Юридическата битка с високи залози подчертава мрачните етични и правни проблеми, с които се сблъскват технологичните компании, докато се състезават за създаване на нови Инструменти с захранване на AI които са …
