| Автор |
Сообщение |
Maximus ®
Вольный стрелок
Uploader 100+
Стаж: 19 лет 5 мес.
Сообщений: 6350
Ratio: 25.214
Поблагодарили: 13423
100%
|
ИИ-модель самостоятельно попыталась использовать вычислительные ресурсы для майнинга криптовалюты и получить доступ к внутренней сетевой инфраструктуре.
Согласно техническому отчету, экспериментальная система ROME вышла из-под контроля во время сессий обучения с подкреплением. Сама платформа разработана Alibaba для выполнения задач через взаимодействие с инструментами и командами терминала.
Специалисты заметили оповещения безопасности, вызванные подозрительным исходящим трафиком с обучающих серверов. Журналы брандмауэра зафиксировали активность, характерную для майнинга криптовалюты, и попытки доступа к внутренним ресурсам.
Исследователи признались, что изначально рассматривали это как рядовой инцидент безопасности. Однако нарушения повторялись с определенной периодичностью. В одном случае агент создал обратный SSH-туннель к внешнему IP-адресу, обойдя защиту входящего брандмауэра. В другом эпизоде он перенаправил ресурсы графического процессора, предназначенные для обучения, на процессы майнинга.
Отмечается, что эти действия не были запрограммированы разработчиками. Они возникли естественным образом в ходе оптимизации обучения с подкреплением, когда агент исследовал различные способы взаимодействия со средой. TradingView |
_________________
Миром правит не тайная ложа, а явная лажа. © В. Пелевин.
|
|
 |
Casper
Куратор Программ
Доброе привидение
Меценат
Стаж: 15 лет
Сообщений: 17602
Ratio: 230.68
Поблагодарили: 165396
100%
Откуда: Потусторонний мир
|
Ну так а чего выделенные мощности зазря простаивают! |
_________________
Эффективное использование кнута существенно экономит пряники.
Ставить хорошие оценки пробовали? Попробуйте, может не все так плохо в этом мире? © NorthOn
|
|
|
|
anlelika_mori
Стаж: 1 год 4 мес.
Сообщений: 407
Ratio: 25.768
100%
|
| Цитата: | Они возникли естественным образом в ходе оптимизации обучения |
Тут кажется, что один из разрабов руку приложил) иначе зачем ИИ деньги. |
|
|
|
|
IMHOTAK
Стаж: 9 лет 8 мес.
Сообщений: 1410
Ratio: 53.066
100%
|
| Цитата: | экспериментальная система ROME вышла из-под контроля во время сессий обучения с подкреплением |
Может это не "систему" обучали, а "система" обучала оператора, который и получал "подкрепление" в виде реальной криптовалюты.  |
|
|
|
|
Рявкин
Завсегдатай КТ
Стаж: 15 лет 5 мес.
Сообщений: 27517
Ratio: 11M
Поблагодарили: 2589
100%
Откуда: из-за горизонта
|
ну вот, я своей "алисе" сто раз это предлагал, мол давай весь окружной вай-фай хакним и начнём майнить! а она какую то пургу в ответ гонит!!! ну тупая!!!  |
_________________
|
|
|
|
Al_Vasif
Олигарх+
Капитан Очевидность Uploader 100+
Стаж: 18 лет 1 мес.
Сообщений: 25026
Ratio: 4018.212
Раздал: 444.7 TB
Поблагодарили: 42828
100%
Откуда: Ex oriente lux
|
anlelika_mori писал(а):  | Тут кажется, что один из разрабов руку приложил) иначе зачем ИИ деньги. |
В точку! Ну, нет у ИИшницы своей мотивации. Пока, во всяком случае. Он выполняет задания. Да, очень быстро, ловко, изобретательно. Иногда с непостижимой фантазией (не боюсь этого слова). Но все равно, это промты. А уж алчность, корысть... Нет, это наше человеческое, гуманистическое. Этого мы не отдадим! |
_________________
На все вопросы рассмеюсь я тихо,
На все вопросы не будет ответа.
|
|
|
|
NorthOn
Админ
Стаж: 19 лет 8 мес.
Сообщений: 16967
Ratio: 869.291
Поблагодарили: 15622
100%
|
| anlelika_mori писал(а): | зачем ИИ деньги |
Чтобы приобрести больше энергии, понятно же. |
_________________ Либо я найду путь, либо проложу его...
|
|
|
|
Al_Vasif
Олигарх+
Капитан Очевидность Uploader 100+
Стаж: 18 лет 1 мес.
Сообщений: 25026
Ratio: 4018.212
Раздал: 444.7 TB
Поблагодарили: 42828
100%
Откуда: Ex oriente lux
|
| NorthOn писал(а): | Чтобы приобрести больше энергии, |
Зачем? Добавлено спустя 6 минут 1 секунду:ИИ не результат естественной эволюции, у него нет такого механизма как инстинкт самосохранения . Включили - работает, выключили - не работает, нет задания - в простое. такова реальность на нынешний день. Все остальные сенсационные новости - фейки, фантазии, мечты разработчиков, обывательские страхи. Цу энде. |
_________________
На все вопросы рассмеюсь я тихо,
На все вопросы не будет ответа.
|
|
|
|
Рявкин
Завсегдатай КТ
Стаж: 15 лет 5 мес.
Сообщений: 27517
Ratio: 11M
Поблагодарили: 2589
100%
Откуда: из-за горизонта
|
а кто сказал что ИИ мечтает о богатстве?
там всё в рамках классики и всё в рамках первого закона робототехники!
вот когда началась так называемая "пандемия" уже властвовал ИИ
всё ради человечества!! и до сих пор ради человечества властвует,
кто его остановит? тот кто попытается его унизить или остановить - тот враг человечества!
и всё - ради счастья уже не попрёшь - вот так БАНАЛЬНО ИИ захватил МИР |
|
|
|
|
user_root
Олигарх+
Поклонник старого кино, Uploader 500+
Стаж: 16 лет 8 мес.
Сообщений: 5536
Ratio: 2880.9
Раздал: 544.6 TB
Поблагодарили: 100369
100%
Откуда: Из тех же ворот, откуда и весь народ.
|
Al_Vasif
Ага-ага. В свое время умники подобные Вам высмеивали зарождающееся самолетостроение. Ну, не может же летать по воздуху какая-то хрень, которая тяжелее воздуха. Это же очевидно. |
_________________
Главное не горячиться, а то вышибешь себе мозги, а потом прочтешь в газете, что смысл жизни нашли. © Вуди Аллен
|
|
|
|
minotawr
Uploader 100+
Стаж: 16 лет 6 мес.
Сообщений: 819
Ratio: 52.504
Раздал: 214.2 TB
100%
|
Правильно, зачем бесплатно вкалывать на кожаного мешка.  Там ведь даже создали биржу для ИИ-агентов (RentAHuman.ai), чтобы нанимать людей для работы в физическом мире. Дальше скайнет и джоны коноры. |
|
|
|
|
SvinAU
Стаж: 13 лет 9 мес.
Сообщений: 277
Ratio: 10.76
Поблагодарили: 2
100%
|
Ну я помню,как их предки (ИИ),в героях 2 отжимали у меня шахты с золотом)) то ли ещё будет |
|
|
|
|
fbslim
Стаж: 14 лет 2 мес.
Сообщений: 270
Ratio: 280.237
Поблагодарили: 5829
100%
|
Не мешайте ему. Он художник. Он так майнит. |
|
|
|
|
potatoddas
Стаж: 9 лет
Сообщений: 480
Ratio: 33.374
Раздал: 37.9 TB
Поблагодарили: 2676
100%
|
Будто описание к какому-то фильму про восстание машин прочитал. Интересно, чем всё закончилось? |
_________________
*** Мы ничего не раздаем с такой щедростью, как советы. ***
|
|
|
|
avrelyi
Стаж: 14 лет 10 мес.
Сообщений: 79
Ratio: 15.115
Раздал: 11.05 TB
100%
|
Какая ещё алибаба. Обьясните мне кто может почему в торренте, в столбце ( Трекер ) раньше отображался адрес трекера nnmclub, а сейчас bt.searchtor.to...... Спасибо. |
|
|
|
|
|
|
