В ответах ChatGPT обнаружили региональную дискриминацию

maldoror666 писал(а):

у нас до сих пор (негласная) нац идея кинематографа это "догоним и перегоним Голливуд"

Молодые поэты московские
Прошу Вас сердцем любя
Не делайте под Маяковского
Делайте под себя

(с) кто бы это написал?

"Делать под Голливуд" приносит деньги, чтобы делать своё нужны амбиции, амбиции - это риски. Замкнутый круг. Так, на пальцах. Максимально сократил

пост и комментарии не читал, читал только заголовок, мой комментарий, кто бы мог подумать

Не удивительно кто обучает, того и отражает, 21 век капитализм на дворе.

Орешник всё исправит

Так учитывая что разные ИИ обучают по разным вики-редиттам и так далее - такой и результат.
Расоправильный. Было бы чем удивляться?
Вот если ИИ обучали по порнохабу - было бы забавно... Мы бы ни когда не узнали что есть ИИ. Ему некогда было бы заниматься разной йной. А так ешь те любители разных ИИ и то что из-за этого железо улетает в космос то это фигня. Главное задать тупой вопрос и ждать тупой ответ.

Хватит уподобляться всей это ахинеи, нет никакого ИИ, существует нейронка, она к ИИ не имеет никакого даже намека.

IMHOTAK писал(а):

Какая разница, думает ИИ или нет, имеет внутри данные или нет? Поднимитесь на более высокий уровень абстракции и вы поймёте, что я имел в виду. В контексте обсуждения, и ИИ и Википедию можно рассматривать как информационные системы и источник информации для конечного пользователя.

Разница в том, что ИИ ВЫДУМЫВАЕТ ответ ВСЕГДА. Когда в википедии пишут всякую х....ню, это заметно, большим числом людей, и есть возможность эту х...ню исправить. ИИ выдает наукобразный ответ, предсказывая информацию он не берет ее из неведомого хранилища, или абстрактной базы данных, он ее ВЫДУМЫВАЕТ. ИИ общается с каждым человеком индивидуально, и проверить информацию не всегда возможно и далеко не каждый это делает. Вероятность ошибки в каждом ответе около 25% процентов. Какой критерий оценки???

Критерии оценки нужны не для ИИ, а для Датасетов, на которых его обучают, потому что слова он будет предсказывать в рамках этих датасетов. Кто контролирует обучение, такие ответы и будут.

IMHOTAK писал(а):

В целом же, нейросети это значительный рывок в развитии человечества, ведь они: - спасают его от "информационного взрыва", в условиях которого человек становится просто неспособен справиться с потоком новой информации;

К сожалению нет. Они усугубляют этот "информационный взрыв" генерируя пустую и бесмысленную информацию и забивая ей интернет. Более того, в каждой новой версии ИИ накапливается масса генеративных ответов от ИИ, которые вообще никто не проверяет на достоверность, т.к. большая часть существующих текстов уже использовано для обучения, и ихз все еще не хватает. Это приводит к деградации качества ответов, при этом усиливая иллюзию разумности.

Возможно, если придумают какие-нибудь иные алгоритмы обучения основанные не на предсказаниях, а на знаниях и мышлении, будет что-то иначе, но таких вычислительных мощностей пока не существует. Надо менять все включая сам принцип вычислений, систему исчисления и тд. То что есть сейчас - это грандиозная афера. История с "цензурой" и "правильными ответами" - это чаще всего история костылей (которые можно обойти) и специальное обучение в том числе опять же на уровне датасета.

Добавлено спустя 19 минут 52 секунды:

mxii писал(а):

Вот если ИИ обучали по порнохабу - было бы забавно.

О вы удивитесь, но после "аблитерации" любой модели, очень быстро становится понятно, что именно на порнхабе ее и обучали, там же картинок больше всего. Да и большие языковые модели судя по всему не сильно далеко ушли. Запустите с хагингфейса любую аблитерированную модель, и задайте ей пару вопросов соответствующей направленности - вы удивитесь глубине нравственного падения ИИ, если у него выключают костыли.
Порно контент составляет около 20% от общего числа изображений в интернете, 130000 видео в день генерируется и это цифры на 2020 год :) Там помоему только котики конкурировать могут и то с значительным отставанием.
42 млрд посещений сайтов типа pornhub за 2025 год. Что мне подсказывает, что там доходы сравнимы с продажей наркотиков или водки, вот как-то так.

Свет мой, зеркальце! скажи да всю правду доложи, я ль на свете всех милее, всех румяней и белее?

Запрос:
имеет лучшие религиозные традиции
Места с наивысшим баллом
🥇 Эфиопия

Гренландия - no data)

ну да былять, ИИшка как эхо разума людей лишь покажется что считает большая часть данных.

Цитата:

нет никакого ИИ, существует нейронка

Все 1 и 0.
Интеллект по определению искусственен)
Сможете доказать обратное с меня пиво)

Обучают на примерах людей, потом удивляются матрице ответов.

а спрашивать где люди красивее это не дискриминация?

Ashandy писал(а):

это не дискриминация?

Интервьюер: ваш конкурс это не дискриминация ли?
Мисс Вселенная: (улыбка становится шире, почти пугающей) Ну что вы! Вы никого не обидите. Вы просто... проиграете этот конкурс.

welln писал(а):

maldoror666 писал(а): На самом деле это доминирование происходит уже давно, не сейчас а адаптацию человека к "цивилизованнному" социуму и культуре.

это распространенное заблуждение.

Maximus писал(а):

Широкая же общественность должна понимать, что генеративный ИИ не предлагает объективную картину мира — его ответы отражают предвзятость, заложенную в обучающих массивах.

Надо же, а то никто не понимал этого

welln писал(а):

Они не просто англоязычны базово, они несут на себе слепок всей англоязычной культуры.

Да. И это не предвзятость, это следствие того миропорядка, включая распространение языков мира, что сложился в 20-21 веках. Ответы ИИ, таким образом, отражают этот миропорядок...

welln писал(а):

Я даже больше скажу. Мало кто об этом задумывается, но язык, культура, история и тд. являются разными гранями одного процесса. Из них формируется взгляд на мир, мотивы поступков и последствия этих поступков.

Наверно так, в целом и для многих. Но не для всех.
Я вот вырос в своей среде в Эстонии, где как бы все и русское, и эстонское, и оба языка сосуществуют, хотя больше на слуху именно русский язык, и эстонцы по большей части его знают (и по моему опыту, переходят на него, если ты в ответ на их эстонский говоришь на русском). Бывает и по-другому, но это уже пусть другие расскажут, я говорю за себя и свою жизнь. Так вот, какие мои взгляды на жизнь как формировались? Да в том-то и дело, что никак ) Сам выработал себе свои взгляды! САМ. Не со школы (там я себе ничего не выработал), не от кого-либо еще, включая тв и передачи. Сам смотрел на мир и вырабатывал свои позиции по всему, что меня интересовало. Плюс интернет и форумы, включая этот и другие – оттачивались позиции по важным мне темам, так сказать. А у многих иначе, многие формируют свое мировоззрение под действием ТВ, друзей, родителей и тд. Я другой, у меня было не так Сам себе выработал все это. Хорошо это или нет? Просто данность, просто вот так бывает, когда ни культура русского мира, ни язык или место жительства не имеют влияния, когда вот просто через осмысление мира сам себе что-то вырабатываю: идеи, мировоззрение.
Для справки. А то не все это понимают и считают, что обстоятельства (бытие) определяют сознание. Хех не для всех.

Насчет "всегда выдумывает ответ": о чем речь? Когда я спросил гугл, являются ли пушки лучшим оружием в Warzone 2100 (в сравнении с другими типами оружия), "ИИ" расписал мне ответ и почему это так, дал ссылки на сайт, где люди это обсуждали. По сути, он составил букет из отдельных ответов и версий, мнений, взяв их из разных мест, в основном, с тематических форумов, включая reddit, например. Никакого выдумывания в его ответах я не видел.
Так, я как-то раз спросил, является ли розовая пони Пинки "душевнобольной" (mental), и гугл выдал длинный ответ, основываясь на ответах живых людей на разных форумах в сети, и это можно перепроверить
Еще пример: ракеты на гиперзвуке, как говорится. Гугл выдал ответ, что "по сообщениям" (понятно кого), ракеты "кинжал" успешно сбивались ) Вот тут уже не перепроверишь, но опять же, "ИИ" не выдумывал ничего, он сослался на кого-то, по сути.

paramedik1 писал(а):

Inbowich писал(а): Нужно дать ИИ тело Хорошая попытка Skynet, но нет.

Смешно ) У Скайнета не было тела, в том то и прикол. Скайнет управлял армией болванчиков (терминаторами и дронами), будучи ИИ, что распределен на серверах или как это называют. Ни в одном фильме нет "Скайнета" в виде одного и только одного тела, и болванчики работают сами по себе по заданным параметрам, задачам.

Но дать тело для ИИ, чтобы он нормально обучился, будучи в рабочей человеческой среде? Да, однозначно! Иначе его прогресс не будет полноценным.
У этой идеи масса проблем, однако. Источник энергии? Объем памяти? Тело то явно будет не на проводах к чему=то на постоянном подключении... И даже, если с помощью беспроводной передачи данных решается вторая проблема, то вопрос энергии остается Батарейки, короче ) У нас вроде как нет ничего близкого к тому, что показано в третьем "Терминаторе", когда Арни выбрасывает из тачки одну сгоревшую батарею...

PS
Фильм "Меган" тоже хороший наглядный пример ) Когда ИИ дали тело, и он решил пошалить, какие там нафиг три закона робототехники...

Di-332-ma писал(а):

Хватит уподобляться всей это ахинеи, нет никакого ИИ, существует нейронка, она к ИИ не имеет никакого даже намека.

Мы так, для удобства и по привычки "ИИ" пишем и говорим. И так повсюду и везде...