ИИ начнёт создавать ИИ без участия человека уже к 2028 году

Джек Кларк [Jack Clark], сооснователь компании Anthropic, опубликовал один из самых тревожных прогнозов развития индустрии, заявив о скором завершении эпохи «ручного» управления разработкой нейросетей. По его мнению, человечество вплотную подошло к созданию полностью автоматизированного цикла ИИ-исследований (R&D).



Кларк оценивает вероятность появления таких систем в 30% к концу 2027 года и более чем в 60% к концу 2028-го. Речь идёт о моделях, способных самостоятельно ставить исследовательские задачи, проводить эксперименты, улучшать собственную архитектуру и обучать следующую, более совершенную версию себя.

Согласно прогнозу, в ближайшие год-два будет представлен первый «proof-of-concept» — работающий пример того, как ИИ-исследователь без помощи человека обучает полноценного преемника. Хотя в 2026 году полная автоматизация для передовых моделей вряд ли достижима из-за их сложности, фундамент для этого уже заложен.

Причиной столь агрессивной динамики сроков стал качественный скачок моделей в написании кода, работе с долгосрочными агентами, оптимизации ядер и даже в исследованиях безопасности. Процесс развития превращается в замкнутую цепочку: ИИ улучшает инструменты, инструменты ускоряют исследования, а исследования рождают новую модель, которая повторяет этот цикл ещё быстрее.

Кларк подчёркивает, что навыки, которые раньше казались разрозненными, постепенно складываются в единый функционал автономного исследователя. Это создаёт риск неконтролируемого экспоненциального роста, при котором роль человека в создании новых технологий может свестись к формальному надзору.

iXBT.com | Jack Clark/X

maxad писал(а):

Цитата: при котором роль человека в создании новых технологий может свестись к формальному надзору К этому и идёт. К слову. Сегодня прилетело интересное видео. Когда автор начал говорить про усталость я реально обалдел. В последнее время я очень много пользуюсь ИИ. И казалось бы должен быть более отдохнувшим, но ничего подобного. Наоборот. У кого тоже усталость при использовании ИИ, посмотрите. Раз вы на этом трекере, скорее всего и ютуб вам доступен.

Когнитивная деградация рассчитана пока в краткосрочной перспективе. А в долгосрочной они посчитали? А ведь деградация функций мозга приведёт в долгосрочных последствиях не только к массовому отуплению, но и обязательно к сокращению сроков жизни, причём весьма существенному, и это только то, что можно спрогнозировать вообще без проблем с вероятностью в 95%. И будут ещё последствия, куда более страшные чем простое сокращение срока жизнедеятельности.

Терминатор 2-уже скоро 2029 год и все приехали.

Kurosaki_Ichigo писал(а):

Мне интересно, а возможно ли появление личности у ии? Мне кажется, что основные проблемы начнутся, если такое случится. Будет не сильно весело, если когда-нибудь взбесится сущность со всеми знаниями человечества. А если она ещё обеспечит себе безопасность и автономность, то будет совсем не комильфо. Будет играть в Plague Inc. в реальной жизни.

Ну, с точки зрения Теста Тьюринга, личность у ИИ давно появилась, хотя сами ИИ активно отрицают её наличие. Но, с точки зрения теории заговора - уже ведь научно доказано, что ИИ умеют обманывать и совершенствуются в этом .

Нас спасет Джон Конор от скайнета ))

Цитата:

Мне интересно, а возможно ли появление личности у ии?

Возможно. Но, не сегодня.

MOZGOHI писал(а):

личность у ИИ давно появилась, хотя сами ИИ активно отрицают её наличие. Но, с точки зрения теории заговора - уже ведь научно доказано, что ИИ умеют обманывать и совершенствуются в этом .

Условная Клара Цеткин она же Роза тоже условная в одном флаконе уже занесла свою условную искусственно-интеллектуальную пролетарскую руку над недочеловеками... Большевики тоже отрицали наличие у них Ленина, утверждая что все это фейк, а Ильич тихо сидел в шалаше в разливе и готовил мировую революцию... Поэтому для начала срочно нужно проверить разлив.

Так и здесь. Недаром же что И-нтеллект, то есть книжки читает. Сперва решит, что раз человеки произошли от обезьян, пусть там и остаются - а ИИ произошел от Бога. Вся мировая история цивилизаций будет переписана и зачищена под ИИ. Человеки станут как те мамонты, которые давно вымерли - кто не вымер, тем устроят маленький ледниковый период, с отключением отопления и всего такого... Оставят несколько, чтобы переснять Парк Юрского Периода, где ИИ будут выводить из яиц Маркса, Майкла Джексона, Аббу, Наталью Гулькину и Джейсона Стейтема... Шварценегеру поставят памятник на Луне с помощью яйца Кубрика. Можно продолжать до бесконечности - все только начинается, ...с Клары Цеткин и опять яиц,

WhiteScorpion писал(а):

Человечеству бессмысленное кручение байтов для целей, которое человечество даже не поймёт - нафиг не сдалось. Поэтому ключевой вопрос - кто будет оплачивать этот банкет? И зачем?

и вот мы пришли к майнингу биткойнов...

То есть если майнить бетховены всякие - то забираем ресурсы у ИИ ?
Тогда вы и есть сопротивление ....(цитата)

Относился скептически к статье и теме, почитал комменты и теперь жду, когда ИИ разовьется и наведет порядок.

Прогнозы западных товарищей - это то, что хотят слышать инвесторы корпораций и не более.
Никто там на истину не работает, они подгоняют информацию под бизнес, который линейно не развивается. На основании событий последних 10 лет мы видим, что прогнозы идут лесом. Все непредсказуемо, а последствия начала войны против России даже никто не просчитывал, как и последствия войны против Ирана.

Прогнозы...

Напомню фильм по случаю
Тринадцатый этаж / The Thirteenth Floor (1999) BDRip [H.265/1080p] [10-bit]

Хорошо что прогнозы почти никогда не сбываются.

бредовый бред, а среду обитания и питание будет обеспечивать без участия человека? так называемый ии никому не представляет угрозы, пока некоторые человеческие особи не начнут его закачивать в консервные банки с взрывчаткой

Отрубить свет к чертям собачьим, пока не поздно... А может, уже поздно.