Суд признал Google ответственной за ложные заявления, сгенерированные ИИ

Нам нет причин для радости. "любила жаба гадюку."
Если Гугл не отобьется, то нам просто урежут функционал бесплатного ИИ

Конфликт начался в начале февраля, когда издатели направили Google письмо с требованием прекратить противоправные действия, поскольку AI Overviews сообщала пользователям о компании, занимающейся мошенничеством и сомнительными деловыми практиками. К ним относились «ловушки с подпиской», когда клиентов заманивают к неосознанной покупке подписок, выставление счетов за услуги на основании телефонных звонков, которых на самом деле не было, требования об оплате уже произведенных платежей и невозможность разблокировать оплаченный цифровой контент.
В оригинальных статьях, на которые ссылался ИИ, таких обвинений не было — нейросеть просто «галлюцинировала»

Подача апелляции: Поскольку вынесенное Окружным судом Мюнхена решение является лишь предварительным судебным запретом (preliminary injunction), а не окончательным финальным приговором, Google официально подтвердила запуск процесса его апелляции
источник

Ну вообще-то это логично: юрисдикция же признала чуть ранее, что творчество и любое создание контента посредством ИИ - НЕ принадлежит ИИ, а принадлежит тому, кто "инициировал создание" - "автору".
Соответственно за всю брехню - тоже как бЭ ответственнен создатель - "автор".

Но тут есть интересный нюанс: когда "автор" инициирует создание чего-то хорошего - он молодец и получает все лавры, а вот когда инициируется создание хорошего, но в результате выходит тотальный шлак - надо кого-то обвинить... Но не себя же! А убытки за решение возложить на кого-то надо. Понятно - это модель виновата, а кто построил модель? Ату их!

Denis_2010 писал(а):

Если на свой вопрос "Как поправить здоровье?" ИИ выдаст ответ "есть надёжный способ восстановить здоровье: нужно рано утром искупаться в чане с кипящим маслом", - это будет правдивая или ложная информация?

это будет для вас - или полезная или бесполезная информация ))
а решать вам! в меру вашего образования, мировоззрения и так далее..

Цитата:

обязана отвечать за ущерб, причинённый её ответами

Может ли гражданин подать в суд на Гугль с требованием возмещения ущерба, причиненного общественно вредной информацией его мозгам в данном случае? (... или же компания - ее бизнесу)

Цитата:

Решение немецкого суда в компании считают не окончательным, поэтому и история с ответственностью за галлюцинации служб ИИ

Странам, где наркотики запрещены на законодательном уровне, стоит рассмотреть вопрос такого же строгого запрета ИИ-галлюцинаций и прировнять их, например, к синтетическим наркотикам. Потому что сегодня мы уже получаем новый вид психоделического вещества - например, по симптомам приближенный к уже печально известному диметилтриптамину (DMT).

Рявкин писал(а):

а что такое - ложная информация? не понимаю... по моему любая информация для кого то ложная, а для кого то нет )) всё в мире людей - относительно

Нет. Не относительно. Ложная это не соответствующая действительности.
Простой пример (заранее пардон за небольшой переход на личности):
если информация сообщает что у вас два пениса, то это в корне не соответствует и является ложью. Хотя хз... всегда есть много всего что мы не знаем.

Но ведь может быть инфа и поважнее (хотя что может быть важнее двух пенисов сразу...). Например та, что это мы окажемся инопланетянами на самом деле, которые вторглись когда-то на чужую территорию (и всю ее разъеб ... а не та хрэнь которой нас кормит Стивен Спилберг).

Рявкин писал(а):

только тогда надо запретить все СМИ и всю религию, и художественную литературу с медециной до кучи ))

Прецеденты уже была в аналах истории:

- 10 мая 1933 года на Опернплац в Берлине, а далее в 70 городах страны граждане одного государства жгли книги граждан других государств
- 19 июля 1937 года все те же граждане разгромили свою же выставку Entartete Kunst, получившую в истории название Выставка Дегенеративного Искусства, после чего радостно побежали принудительно залечивать своих дегенератов.
- 1 декабря 1962 года на выставке к 30-летию московского отделения Союза художников СССР (МОСХ) глава правительства одного государства назвал некоторых счастливых юбиляров обидным словом , после чего непринудительно но все равно их отправили туда, куда раннее граждане другого государства отправили своих дегенератов.
- 26 октября 2006 года Кировский районный суд Екатеринбурга по просьбе Госнаркоконтроля вынес постановление об уничтожении тиража вредной книжки Apocalypse Culture (Культура времен Апокалипсиса) иностранного гражданина Адама Парфрея, выпущенную скромным издательством «Ультра.Культура» Ильи Кормильцева писавшего песни для Наутилуса П, по причине пропаганды этого самого апокалипсиса, после чего тираж книжки был сожжен, правда потом это решение отменили когда все сожгли нахрен...

Это лишь малая часть исторических примеров.
С тех пор: дебильного искусства стало в разы больше, граждане с обидным словом стали этим словом уже в буквальном смысле и в некоторых странах между ними даже признаны официально -браки, придурков глав разных стран тоже меньше не стало - на равных с мужчинами появилось множество придурков женщин которые зачем-то летают для кино в космос или борются за "засрем и пересрем свободный Интернет", а всемирный апокалипсис никуда не делся и уже на пороге.

Поэтому есть предложение просто запретить людей. Которые в меру своей запущенности не научились отличать полезное, доброе, вечное, от разного дерьма. Аминъ

WhiteScorpion писал(а):

Но тут есть интересный нюанс: когда "автор" инициирует создание чего-то хорошего - он молодец и получает все лавры, а вот когда инициируется создание хорошего, но в результате выходит тотальный шлак - надо кого-то обвинить... Но не себя же! А убытки за решение возложить на кого-то надо. Понятно - это модель виновата, а кто построил модель? ... ... Ату их!

напоминает некую "охоту на ведьм" )))

Добавлено спустя 1 минуту 53 секунды:

maldoror666 писал(а):

Поэтому есть предложение просто запретить людей. Которые в меру своей запущенности не научились отличать полезное, доброе, вечное, от разного дерьма. Аминъ

и чем вы тогда отличаетесь - от вашего же текста? что написан вами чуть выше )

Добавлено спустя 16 минут 54 секунды:

кстати, я писал о полезной и бесполезной информации,
мол решает сам человек в меру своего образования!
забыл добавить важный фактор,
окромя вашего образования есть ещё пожалуй самый главный фактор - интуиция,
интуиция это опыт который вы получаете с самого своего рождения

Denis_2010 писал(а):

Рявкин Если на свой вопрос "Как поправить здоровье?" ИИ выдаст ответ "есть надёжный способ восстановить здоровье: нужно рано утром искупаться в чане с кипящим маслом", - это будет правдивая или ложная информация?

Рявкин писал(а):

а что такое - ложная информация? не понимаю... по моему любая информация для кого то ложная, а для кого то нет )) всё в мире людей - относительно

Ну, иногда и ии гугла бывает полезен. Например загуглив какой-нибудь стандартный вопрос типа как установить то-то там-то иногда получается прямо чёткий список команд. И всё работает. Правда, иногда бывает и лажа. И уж эта лажа точно не относительная, а вполне себе абсолютная, ибо очевидна любому, кто попробует последовать такому совету.

Добавлено спустя 10 минут 29 секунд:

Рявкин писал(а):

это будет для вас - или полезная или бесполезная информация )) а решать вам! в меру вашего образования, мировоззрения и так далее..

Самое хреновое, что именно выдача ии и наверху. Это первое, что попадается на глаза. Я ни в коем случае не против этой фишки. Я против того, чтобы она была в самом верху выдачи. И еще выдача ИИ должна быть с обязательной ЗАМЕТНОЙ РЕМАРКОЙ, о том, что ЗА ИСТИНУ СЛЕПО ПРИНИМАТЬ НЕЛЬЗЯ.

Рявкин писал(а):

и чем вы тогда отличаетесь - от вашего же текста? что написан вами чуть выше )

Уже хотя бы тем, что я - не эти люди )
Например, лично общался с автором Культуры Апокалипсиса и эту книга у меня давно настольная, не сожжена.
Я вообще давно привык спасать то, что сожгут, как то так выходит... карма наверное такая.

И если что, это был сарказм. Прочтите Анатоля Франца, там ответ на Ваш вопрос. (Я устал здесь постить эту его любимую цитату - любимую мою).

Рявкин писал(а):

забыл добавить важный фактор, окромя вашего образования есть ещё пожалуй самый главный фактор - интуиция, интуиция это опыт который вы получаете с самого своего рождения

Интуиция не фактор и не опыт вовсе, и никакого отношения ни к одному ни ко второму отношения не имеет. Это совсем другое. Это как инстинкт. Но да, для некоторых это главная, определяющая и движущая сила, однозначно.

LoudUser писал(а):

И еще выдача ИИ должна быть с обязательной ЗАМЕТНОЙ РЕМАРКОЙ

да ну нафиг - что это меняет ? )))
это то же самое что просить человека,
после каждого своего комментария (не важно в инете или в реале)
говорить - тупой он или сегодня не очень ))

maldoror666 писал(а):

Это совсем другое. Это как инстинкт.

ау!!! Уважаемый!!! а инстинкт это не опыт?
ещё раз

Рявкин писал(а):

есть ещё пожалуй самый главный фактор - интуиция, интуиция это опыт который вы получаете с самого своего рождения

Denis_2010 писал(а):

Рявкин Если на свой вопрос "Как поправить здоровье?" ИИ выдаст ответ "есть надёжный способ восстановить здоровье: нужно рано утром искупаться в чане с кипящим маслом", - это будет правдивая или ложная информация?

Для сказочного персонажа из Горбунка это верное решение! Но для царя нужна обязательная поправка... ))

Тут где то в комментариях под фильмом про войну, один эрудит приводил информацию от ИИ, как фактическую и подкрепленную историческими фактами. Вот только эти "исторические факты"... оказались фактами фашистской пропаганды. ))

ну или по другому скажу - интуиция всем вам -
- каждому из вас передаётся поколениями!!
на генном уровне (так сказать в программирование на самом низовом уровне )
это опыт программируемый тысячелетиями!

fibi768 писал(а):

Для сказочного персонажа из Горбунка это верное решение! Но для царя нужна обязательная поправка... ))

эта поправка называется интуиция )) если царь потерял нюх - его проблемы ))
и современный забавный пример - некий Мадура

Denis_2010 писал(а):

Рявкин Если на свой вопрос "Как поправить здоровье?" ИИ выдаст ответ "есть надёжный способ восстановить здоровье: нужно рано утром искупаться в чане с кипящим маслом", - это будет правдивая или ложная информация?

Возможно где-то на далеком острове есть масло, которое кипит при 30 град. Цельсия и в этом масле столько разных витаминов, что при купании избавишься от всех болезней. Возможно...

Старый-старый анекдот:
Поймал студент Золотую рыбку. Она говорит: "Отпусти меня, любое желание исполню". Студент подумал: "Хочу, чтобы у меня х... до земли был". Тут же из реки выскакивает крокодил и откусывает студенту обе ноги. Следом выскакивает преподаватель и ехидно смеется: "Некорректно задачу ставите, молодой человек".

жесть какая-та

Рявкин писал(а):

напоминает некую "охоту на ведьм" )))

Это не охота на ведьм, а результаты правовой коллизии.

Признай они, что ИИ - это реальный объект (или субъект - не помню как правильно) права - и пришлось бы отдавать миллиарды денег "непонятным циферкам"... Но и виновность за косяки погашались бы - из этих самых миллиардов денег!
Юрисдикция же решила, что это больно жирно для не понять чего.. И впала в ересь - назвала "автором" инициатора промта, а тут у нас - очевидные проблемы модели на робастные выбросы глюков платить за которые никому не охота! Модель то обучается на данных, которые где-то когда-то уже были, а там - контекстно независимому ИИ пофиг правда это или чей то вымысел.
И появилась необходимость назначить виновных за ошибки.

Рявкин писал(а):

а что такое - ложная информация? не понимаю... по моему любая информация для кого то ложная, а для кого то нет )) всё в мире людей - относительно

Ложная это когда тебе гугл выдаёт что начало второй мировой войны было в 1930 году (к примеру). это ложная информация. Она ложная для всех.

Цитата:

Это первое такого рода знаковое решение в Европе, которое может повлиять на практику ответственности технологических компаний за «галлюцинации» ИИ во всём мире

Любая нейронка подвержена галлюцинациям в угоду пользователя, нельзя безоговорочно доверять показанной инфе, надо сразу переходить на Show more или лучше на AI Mode и уже тогда задавать вопросы типа - откуда ты это взял, да ты всё врёшь и т.п. вот тогда появляются дополнительные ссылки на разные статьи, или извинения без ссылок, если инфа ложная, а компиляция нейронки с последующей генерацией может быть неточной;
но однозначно ИИ - это благо, надо только правильно пользоваться, и дело ведь не только в поиске, Gemini или ChatGPT может помочь быстро написать скрипт, или сложный батник по запросу и параметрам пользователя и т.п.