Наши проекты:
Журнал · Discuz!ML · Wiki · DRKB · Помощь проекту |
||
ПРАВИЛА | FAQ | Помощь | Поиск | Участники | Календарь | Избранное | RSS |
[3.139.86.56] |
|
Сообщ.
#1
,
|
|
|
Итак, решил поднять такую, как мне кажется важную и актуальную тему, напрямую сопряженную с темой ИИ, однако, далеко ей не ограничивающейся. Тема эта заключается в проблематики внутренних угроз возникающих при глобализации интеграции автоматизированных технологий в инфраструктуру человеческой цивилизации, то есть с развитием автоматизированных технологий в нашей повседневной жизни.
В этой теме я решил поделится своими мыслями по этому поводу и выложить небольшую свою книжецу-статью «Апокалипсис в байтах», где постарался скомпилировать все свои идеи по поводу опасностей которые поджидает человечество после глобализации технологий ИИ. Попытался сформулировать 7 основных правил при развертывании инфраструктуры ИИ, которые бы смогли предотвратить апокалипсис. Под ИИ в статье подразумевал и в том числе экспертные и иные системы, способные самостоятельно (автоматизировано) принимать решения (что уже применяется сегодня в некоторых отраслях). Я не писатель и ни на что не претендую, но может кому-то мои мысли покажутся интересными и полезными, как и сама тема. Долго думал, куда бы разместить эту информацию и выбрал именно этот раздел, ведь фактически это как раз обсуждение новых идей. P.S.: прикрепить файл к сообщению не смог, дал прямую ссылку. |
Сообщ.
#2
,
|
|
|
А в чем собственно заключается идея (наш раздел называется "Обсуждение новых идей")
|
Сообщ.
#3
,
|
|
|
Цитата А в чем собственно заключается идея (наш раздел называется "Обсуждение новых идей") Соглашусь, что возможно раздел выбран не самым удачным образом, но куда еще разместить (в какую ветку) не придумал. С другой, стороны, идеи создания ИИ и расширенных экспертных систем, как раз попадают под тематику данного раздела, однако, инжиниринг систем ИИ, сопряжен с возникновением озвученных проблем. |
Сообщ.
#4
,
|
|
|
Апокалипсис предотвратить нельзя
|
Сообщ.
#5
,
|
|
|
Прекрати сам с собой разговаривать.
|
Сообщ.
#6
,
|
|
|
Kray74, вы сейчас к кому обращаетесь, с кем разговариваете?
|
Сообщ.
#7
,
|
|
|
IvanFuture, что у вас с русским языком? Вроде бы явных грамматических ошибок нет, но фразы выстроены так, что читать очень сложно...
Добавлено И да. Искусственный интеллект - искусственным интеллектом, но вот это гораздо серьёзнее с точки зрения заявленной темы. Это я вам как краевед говорю. |
Сообщ.
#8
,
|
|
|
Цитата IvanFuture, что у вас с русским языком? Вроде бы явных грамматических ошибок нет, но фразы выстроены так, что читать очень сложно... Да вот есть такой недостаток — люблю сложно излагать свои мысли. Последнее время стараюсь исправится. Цитата И да. Искусственный интеллект - искусственным интеллектом, но вот это гораздо серьёзнее с точки зрения заявленной темы. Это я вам как краевед говорю. Согласен полностью, и дальше, как мне кажется опасность угроз будет только возрастать. Собственно писал эту статью не только ради поднятия темы ИИ, но как раз для напоминания об подобных типах опасностей. |
Сообщ.
#9
,
|
|
|
IvanFuture, раз уж начали ошибки исправлять
книжИца Прочитал только ваше первое правило - контроль за исходными данными, которые ИИ использует во время работы Интеллектуальные агенты, осуществляющие поиск в интернете, неконтролируемо используют все ресурсы интернета. Значит, сразу надо сказать ботам нет. Подождать до лучших времён, когда интернет-контент станет полностью контролируемым. |
Сообщ.
#10
,
|
|
|
Цитата Подождать до лучших времён, когда интернет-контент станет полностью контролируемым. ИМХО, такое время не загорами. Да и сам по себе Интернет - это пока лишь песочница для ИИ технологий. |
Сообщ.
#11
,
|
|
|
Цитата IvanFuture @ Да вот есть такой недостаток — люблю сложно излагать свои мысли. Проблема не в сложности, а в стиле. Вот, собственно, первое же предложение: Цитата От начала своего развития и распространения до современности, за последние 10-20 лет информационные технологии совершили огромный технический скач Тут из серии "позвольте, кто на ком стоял?". Информационные технологии скоро уже 100 лет как развиваются. Что за "последние 10-20 лет" имеются в виду? Современные технологии сами по себе успешно эксплуатируют идеи, возникшие ещё в 70-ых - 80-ых годах прошлого века (принципиально нового придумано не так уж чтобы и много). Ну и в целом сформулировано так, что мама дорогая. Добавлено Цитата IvanFuture @ Согласен полностью, и дальше, как мне кажется опасность угроз будет только возрастать. Ага. Скажу больше: ИИ на индустриальный объект вряд ли кто пустит в обозримом будущем. А вот поставить дырявую АСУ ТП - да нивапрос. |
Сообщ.
#12
,
|
|
|
что да, то да
наиболее "продвинутым" является машиностроение, а там наиболее "интеллектуальными" являются MES (Manufacturing Execution System), ядро таких систем - эвристические алгоритмы, обычная оптимизация это в лучшем случае а в худшем - планировщики, студентами на коленке писанные похоже, никакого ИИ не будет, будущее за гибридными системами - интеллектуальная система для обработки больших объёмов информации + ЛПР (лицо принимающее решение), который собственно и принимает решение |
Сообщ.
#13
,
|
|
|
Цитата Juan Ivanov @ похоже, никакого ИИ не будет, будущее за гибридными системами - интеллектуальная система для обработки больших объёмов информации + ЛПР (лицо принимающее решение), который собственно и принимает решение Похоже на то. Потому что с ИИ, принимающего решения на основании непонятно как работающих алгоритмов, спросу нет... |
Сообщ.
#14
,
|
|
|
ИИ не посадишь
|
Сообщ.
#15
,
|
|
|
Ну, как бы, я именно это имел в виду.
|
Сообщ.
#16
,
|
|
|
"Никогда не доверяй компьютеру, который не можешь выбросить из окна" (с) не я
|
Сообщ.
#17
,
|
|
|
Цитата похоже, никакого ИИ не будет, будущее за гибридными системами - интеллектуальная система для обработки больших объёмов информации + ЛПР (лицо принимающее решение), который собственно и принимает решение Предложу альтернативную точку зрения: ИИ не посадишь, но и платить ему не надо. Человек (работник) обойдется дороже машины. Формально может и будет лицо, принимающее решения, но фактически решения будет приниматься автоматически машиной. Примеров уже сейчас много в области интернет технологий... |
Сообщ.
#18
,
|
|
|
Цитата IvanFuture @ Формально может и будет лицо, принимающее решения, но фактически решения будет приниматься автоматически машиной. Примеров уже сейчас много в области интернет технологий... Область интернет-технологий и область, например, крупных электростанций (ГРЭС, АЭС и т. п.) - немножко разные. Не находишь? |
Сообщ.
#19
,
|
|
|
Цитата Область интернет-технологий и область, например, крупных электростанций (ГРЭС, АЭС и т. п.) - немножко разные. Не находишь? Нахожу, но безалаберности человека нет придела. Случай из практики: на критическом объекте, дежурный администратор системы сквозь пальцы посмотрел на действие автоматизированной программы управления сервером — итог, рухнуло все. И это без всякого ИИ. Думаю в будущем, когда машины станут умнее и создадут видимость надежности в принятии решений, человек потеряет окончательную бдительность... |
Сообщ.
#20
,
|
|
|
народонаселение уменьшается, работать скоро будет некому даже за приличные деньги, и таджиков на такие объекты не пустишь
в тяжёлой промышленности будущее за промышленными роботами с ограниченным функционалом Цитата Несколько лет назад мой кабинет был превращен в полигон. По стене на разной высоте были ввинчены шпильки, а на пол прибиты бруски. Задача рОбота была: самостоятельно провести замеры шпилек, подготовить щит из фанеры (засверлить отверстия правильных диаметров), навесить щит на шпильки и привинтить гайками. Отлаживали программу месяц. Когда сдавали заказчику, он подготовил на полигоне проверку: одну шпильку ввинтили под углом. Когда я заметила это, я затрепетала: что будет? Догадается ли сделать больше диаметр отверстия? Мой программер (молюсь на него) только улыбался. Когда машинка добралась до кривой шпильки, она произнесла: "вот cyka...", навинтила на шпильку гайку и выпрямила молотком. Японцы были в обмороке. Сказали, что не просили машину с "русским" интеллектом. Тем не менее, работу приняли. |
Сообщ.
#21
,
|
|
|
Цитата народонаселение уменьшается, работать скоро будет некому даже за приличные деньги, и таджиков на такие объекты не пустишь в тяжёлой промышленности будущее за промышленными роботами с ограниченным функционалом Цитата Несколько лет назад мой кабинет был превращен в полигон. По стене на разной высоте были ввинчены шпильки, а на пол прибиты бруски. Задача рОбота была: самостоятельно провести замеры шпилек, подготовить щит из фанеры (засверлить отверстия правильных диаметров), навесить щит на шпильки и привинтить гайками. Отлаживали программу месяц. Когда сдавали заказчику, он подготовил на полигоне проверку: одну шпильку ввинтили под углом. Когда я заметила это, я затрепетала: что будет? Догадается ли сделать больше диаметр отверстия? Мой программер (молюсь на него) только улыбался. Когда машинка добралась до кривой шпильки, она произнесла: "вот cyka...", навинтила на шпильку гайку и выпрямила молотком. Японцы были в обмороке. Сказали, что не просили машину с "русским" интеллектом. Тем не менее, работу приняли. Красотища! Особенно: "вот cyka...", навинтила на шпильку гайку и выпрямила молотком. |