Япония пересматривает школьную программу и делает ИИ-грамотность обязательной

Александр Гор писал(а):

Господи! Количество часов – это конечно очень интересно, но было бы неплохо, если бы журналисты хоть немного напрягались и выясняли характер будущего образования! В школе будут учить общаться с нейронной сетью?! Ну тогда это бюрократическая комедия! Или же, всё же… будут объяснять, что такое перцептрон, основы аппаратного ... ... и программного создания ИИ, математические основы?

А зачем? Это же полная глупость. ИИ это просто инструмент, и должны учить как им правильно пользоваться.

Человек и 1% не знает и не понимает как работает мозг, но продолжают упорно называть программу мозгом. А то что мир упорно сажают на эту   вызывает большие вопросы, видимо кучка богатеев решило, что нынешнее человечество научилось думать и задавать вопросы которые мешают им богатеть. По этому срочно надо сделать, так что бы оно снова отупело и перестало задавать не нужные вопросы. Они упорно стремились что бы стадо перестало плодится и в общем то они пришли к своей цели и оно перестало плодится.

EnigmAHAS
Спорное мнение, калькуляторы, компьютеры не сделали умных тупыми. А тупых и так не чем не испортишь.

savsoft
Как раз сделали, зачем мне пытаться в уме считать, когда за меня машина это сделает.

EnigmAHAS писал(а):

savsoft Как раз сделали, зачем мне пытаться в уме считать, когда за меня машина это сделает.

Как решать задачи, сложность которых человеческий мозг уже не осиливает. Человек что сможет то и просчитает,а дальше уже только машина.

не понятно - а что такое ИИ грамотность? но статья весёлая! интересная!
"Ничего не понятно, но очень интересно!" цитата из многих фильмов и книг ))

Участвуя в разработке алгоритмов и технических заданий на компьютерные программы убедился, что ни один программист, если он не специалист в конкретной технической или научной теме сразу хорошую программу не напишет, а то и не напишет вообще (плавали, знаем). Шесть лет назад, на одном из совещаний в Минэкономике по вопросам инновационного развития предложил рассмотреть вопрос об обязательном введении в школах с 4 класса предмета (уроков) по компьютерному моделированию и программированию. Что плохо в том, что технолог, ученый смог бы писать задачи сам, без постороннего костыля? Покивали головами, но не поддержали.

OpenAI официально представила ИИ-модель GPT-6 Astra.

Президент компании Грег Брокман назвал её релиз «сменой поколений» в отрасли и заявил: «Добро пожаловать в эру AGI» — то есть, по его словам, полноценного общего искусственного интеллекта. Об этом пишет Axios.

Про AGI вы зря. В современной филосифии есть представление о том, что достаточно сложные системы становятся "разумными" сами по себе. И факт осознания себя зависит не от наличия нервной системы, а от степени сложности структуры ее составляющей. И ловушка для человеческого сознания заключается в том, что скорость мысли у такой системы может быть совсем иной. Может быть быстрее, а может быть медленнее к примеру годы и потому недоступной для понимания человеком.

ИИ отличный помощник и учитель, а не золотая рыбка. Нужно именно уметь правильно использовать ИИ, понимать сильные стороны и недостатки ИИ. Рассматривайте ИИ как станок ЧПУ только в области знанинй, на вход нужно дать правильные полные исходные данные - промт, получив результат убедиться что результат верный. Ведь то же делает и оператор ЧПУ. Задает исходную программу для выточки детали проверяет параметры получившейся детали. За ИИ будущее с этим надо научиться жить.

Ответ на любой вопрос по нажатию кнопки делает человекообразных безграмотными ..

Galaxpro
## Короткий вердикт

Хорошее эссе, выдающее себя за доказательство. Философская часть местами дельная, математическая часть содержит несколько ошибок уровня «не в ту сторону применил теорему», а центральный аргумент самоопровергается на предпоследней странице собственного текста.

## Главная дыра

Определение AGI, которое автор сам и выбрал (глава 2, пункт d): «на уровне, эквивалентном человеческому». То есть чтобы опровергнуть AGI, нужно показать **разрыв** между алгоритмом и человеком. Ни один из трёх «путей» этого не делает: Гёдель, Тьюринг, Райс, Колмогоров и Чейтин применимы к любой конечной формальной системе, включая мозг под физическим тезисом Чёрча-Тьюринга.

Автор это видит. Глава 8.3, прямым текстом: «то же самое верно для человеческого рационального познания… Мышление ЕСТЬ коробка». И тут же, без единого аргумента: «в то же время люди доказуемо (provably) обладают способностью». Вот это «provably» и есть всё доказательство невозможности AGI. Его нет. Это ровно ход Пенроуза, только Пенроуз хотя бы честно постулировал квантовую гравитацию в микротрубочках. Здесь же в главе 2 неалгоритмические системы объявлены «страной без карт, непригодной для аргумента», а потом на них молча опираются в решающий момент.

Дополнительно: определение требует паритета, а не оптимальности. Автор сам многократно пишет, что люди в этих ситуациях в основном промахиваются («most such leaps may fail»). Система, которая промахивается так же, определение удовлетворяет.

## Конкретные ошибки, не придирки

**1. Энтропия Парето не расходится.** Ядро «Proof II»: при α ≤ 1 «энтропия Шеннона расходится → обучение невозможно». Дифференциальная энтропия распределения Парето считается в две строки: h = ln(x_m/α) + 1 + 1/α. Конечна при **любом** α > 0. При α = 1 это ln(x_m) + 2. Расходится не энтропия, а математическое ожидание (при α ≤ 1) и дисперсия (при α ≤ 2). Автор путает расходимость E[X] с расходимостью H(X) на протяжении всей главы 6 и приложения F. В дискретном случае вообще хуже: p(k) ∝ k^(-α) при α ≤ 1 на бесконечном носителе не нормируется, то есть это не распределение.

**2. Бесконечное среднее не убивает решение.** Медиана, квантили, стохастическое доминирование, минимаксные и робастные критерии прекрасно работают при бесконечном E[X]. Коши: среднего нет, выборочная медиана состоятельна, оценка Хилла состоятельно оценивает сам α. Утверждение «no consistent estimator exists» просто ложно. Люди, кстати, E[X] тоже не считают.

**3. Райс применён наоборот.** Теорема Райса: нельзя *распознать* нетривиальное семантическое свойство произвольной программы. Из неё не следует, что программа не может этим свойством *обладать* или произвести такой выход. Неразрешимость распознавания ≠ невозможность порождения. Эйнштейн тоже не верифицировал алгоритмически, что его идея «трансцендирует фрейм»: он опубликовал, а отбор сделала эмпирия. Эмпирический отбор доступен и машине.

**4. Сведение к halting доказывает не тот тезис.** Теорема A.3.2 показывает: неразрешимо, является ли политика ε-оптимальной. Никто и не требует от AGI решать, оптимальна ли она. Плюс стандартная ловушка: для каждого фиксированного (M,w) HALT(M,w) есть константа, и политика с зашитым правильным ответом существует, она просто не строится равномерно. Неравномерная неразрешимость ≠ поинстансная невозможность.

**5. Колмогоровский барьер держится на ложной аксиоме.** В Coq-наброске: `pi_complexity_bound : forall x, Ka (pi x) <= K_pi`. То есть выход системы ограничен по сложности самой системой. Это верно для генерации без входа. Для системы с входом K(π(x)) ≤ K(x) + K(π) + O(1): любая система, читающая длинный вход, выдаёт сколь угодно сложный выход. Вся теорема живёт на этой аксиоме. Плюс аксиома `loss_separation` (любые два различных действия отличаются на ≥ ε) превращает функцию потерь в дискретную метрику, с ней «доказывается» что угодно. Сам скрипт при этом не компилируется: `apply pi_complexity_bound in x` синтаксически бессмыслен.

**6. Таблица в главе 17 внутренне противоречива.** «Marriage/Family: качество объясняет 30–40% дисперсии благополучия (Helliwell & Grover) → α ≈ 1.1–1.3». Если у величины отчитана конечная доля объяснённой дисперсии, дисперсия конечна, а значит α > 2. Автор берёт из работ по декомпозиции дисперсии числа и приписывает им хвостовые индексы, которых там нет. То же с Heckman. Это не «стек эмпирических находок», это подгонка.

**7. Пучки декоративны.** Пример в приложении C: s1 = true, s2 = false, глобального сечения нет. Это утверждение «булево значение не может быть одновременно true и false», а не про интеллект. Настоящий провал склейки, если он есть, измеряется когомологиями Чеха, и в конечном случае они **вычислимы**: система может обнаружить препятствие и измельчить покрытие. Заодно: заявление, что ньютоновская и эйнштейновская механики «не могут быть объединены», ложно, СТО переходит в ньютоновскую при v/c → 0, это принцип соответствия. «Эквивалентность» H_unc ≡ H_fat ≡ H_inc в 9.9, замковый камень всей «триангуляции», просто заявлена: множества разного типа, «эквивалентная мера в пределе» без указания меры не означает ничего.

**8. Семантическая замкнутость путает алфавит с онтологией.** Σ конечен, но множество композитов из конечного алфавита бесконечно, и УМТ над {0,1} выдаёт любой вычислимый объект. Автор цитирует гёделевскую нумерацию и тут же о ней забывает. В приложении E.1 он сам признаёт: новизна СТО «семантическая, не синтаксическая, набор символов новым быть не обязан». Это признание аннулирует Лемму 1 и Королларий 1.

**9. Нефальсифицируемость.** Операционального теста «произошёл ли скачок фрейма» в тексте нет. Любой успех системы переклассифицируется в «weak emergence внутри фрейма». А проверяемые предсказания есть, и они уже мимо: FunSearch нашёл новые конструкции в задаче о cap set, AlphaTensor обошёл известные границы умножения матриц. И «weight question»: утверждение, что LLM будет расходиться и не ответит, проверяется за тридцать секунд и неверно, модели отвечают сразу, ровно на том же уровне «несовершенно, но отвечают», который автор объявляет человеческой прерогативой.

## Что там реально есть

- Различение риска и найтовской неопределённости и наблюдение, что AI, устроенный как оптимизатор, в неопределённости работает плохо: справедливо и недооценено.
- Наблюдение, что «decision» в человеческом смысле начинается ровно там, где вычисление не доопределяет ответ: красивая формулировка (по сути Луман плюс Кьеркегор, но сформулировано неплохо).
- Критика линии Гильберт → IQ/g → определение машинного интеллекта: это честный удар по тому, что мы вообще меряем бенчмарками.
- Гипотеза «alignment как подавление энтропии»: недоказана, но как исследовательский вопрос интересна.

## Итог

Это не доказательство невозможности AGI. Это аргумент вида «формальные системы имеют границы», справедливый и хорошо известный с 1931 года, к которому приделан незаявленный постулат «а человек их не имеет». Уберите этот постулат, и текст доказывает ровно то, что интеллект (любой) конечен и ошибается, что с невозможностью паритета никак не связано. Плюс три конкретные математические ошибки, каждая из которых обрушивает свой «независимый путь» по отдельности.

Отсутствие рецензирования тут видно и без анализа: сбитая нумерация (глава 10, за ней «9.3»; теоремы «J.3.1» внутри приложения I), несобирающийся Coq, и раздел 6.8.1 с псевдо-Витгенштейном, который является просто нечитаемым набором слов.

:D

senyaarseniy писал(а):

Galaxpro Отсутствие рецензирования тут видно и без анализа: сбитая нумерация (глава 10, за ней «9.3»; теоремы «J.3.1» внутри приложения I), несобирающийся Coq, и раздел 6.8.1 с псевдо-Витгенштейном, который является просто нечитаемым набором слов. :D

Можно развернутую пояснительную бригаду для интересующихся, которые не в теме?

Palantir82

Цитата:

В современной филосифии есть представление о том, что достаточно сложные системы становятся "разумными" сами по себе.

Сложность лишь среда, она не может сама по себе превратиться в разум, поскольку в системе нет жёстких эволюционных механизмов выживания и адаптации, которые были у биологических видов, поэтому, это всего лишь недоказанное философское допущение

senyaarseniy
Для чего вы накатали такую простыню, причём очень похожую на работу ИИ, сгенерированную на опровержение из компиляции приведённой мной статьи профессора Шлерета;
не будьте наивным, рассчитывая на то, что я буду опровергать все пункты, поскольку я прочитал Шлерета поверхностно, не углубляясь, к тому же третья часть не завершена - link;
я понял, как я думаю суть, то есть компьютер не способен стать живым сверхразумом, так как он действует исключительно по заданным правилам и не умеет выходить за рамки своего кода; ИИ лишён здравого смысла, реального понимания сути вещей и способности критически оценивать собственные действия, то есть остаётся слепым исполнителем чужих команд;
и в моих постах нет противоречия, и сейчас я написал то же самое, но другими словами, так что, могли бы ограничиться двумя минусами, которые вы мне поставили, чем ставить себя в состояние фрустрации )

Palantir82 писал(а):

достаточно сложные системы становятся "разумными" сами по себе

и этому есть живой пример - наша Вселенная, как сложная система, она состоит из огромного колличества простых элементов, самоорганизация которых привела к появлению разума человека и ничего не противоречит и не мешает появлению еще одного разума, работающего на других принципах.