ИИ с Прологом или без?
 |
Наши проекты:
Журнал · Discuz!ML · Wiki · DRKB · Помощь проекту |
|
| ПРАВИЛА | FAQ | Помощь | Поиск | Участники | Календарь | Избранное | RSS |
| [3.41.188.33] |
|
|
Правила раздела:
1. Название темы - краткое описание кто/что против кого/чего
2. В первом сообщении - список параметров, по которым идет сравнение.
3. Старайтесь аргументировать свои высказывания. Фразы типа "Венда/Слюникс - ацтой" считаются флудом.
4. Давайте жить дружно и не доводить обсуждение до маразма и личных оскорблений.
2. В первом сообщении - список параметров, по которым идет сравнение.
3. Старайтесь аргументировать свои высказывания. Фразы типа "Венда/Слюникс - ацтой" считаются флудом.
4. Давайте жить дружно и не доводить обсуждение до маразма и личных оскорблений.
Модераторы: Модераторы, Комодераторы
| Страницы: (3) [1] 2 3 все ( Перейти к последнему сообщению ) |
ИИ с Прологом или без?
|
Сообщ.
#1
,
|
|
  |
Бузнос диас, амигос!
Заинтересовала эта тема, и я решил её обсудить с ИИ. Вот мой вопрос: Цитата Лет 30 назад я ходил на курсы по Искусственному Интеллекту, и там предполагалось использовать язык программирования Prolog за основу. Но, по прошествии этих лет, ИИ начал развиваться на безе нейросетей. Вопрос вот в чём ... Есть расхожая поговорка "все новое - это надёжно забытое старое". С учётом этой поговорки - какова вероятность, что в будущем новые генерации более мощных ИИ будут задействовать не только нейросети, но и концепции Prolog'а? Пусть не в классической его программной реализации, а, допустим, в виде структурированных датасетов? И, о чудо, ИИ дал вполне положительный ответ!!! Тут сам ответ я публиковать не буду - реально лениво. Но прикреплю его в виде файла в формате "raw markdown". Если кто не знает - это обычный текстовой файл с некоторой своей разметкой. Можно читать в обычном текстовом редакторе. Для ценителей форматированного чтения рекомендую CuteMarkEd. И вопрос холивара: будет ли реинкарнация языка программирования Prolog в качестве бестово/топового "компонента" для будущих поколений ИИ??? Прикреплённый файл  AI_Future.md (6.43 Кбайт, скачиваний: 5)
|
|
Сообщ.
#2
,
|
|
|
|
Нет.
Но как некую базу знаний на стероидах можно попробовать. P.S. твой md попозже прочту. |
|
Сообщ.
#3
,
|
|
 |
Врятли. Суть обучения нейросети - подбор параметров к нееоей функции. А тут получится просто второй этаж - подбор параметров к функции подборанных параметров.
|
|
Сообщ.
#4
,
|
 |
Не ну нормально ж. Сначала нейронка генерит сама себе Прологовый код, обучается, т.с., потом его исполняет.
 |
|
Сообщ.
#5
,
|
|
|
|
Цитата Qraizer @ сама себе Прологовый код А нафига козе баян? Пролог он же для кожанных. Сама себе она че-нить свое нагенерить должна. |
|
|
Сообщ.
#6
,
|
|
|
Ну так своё и нагенерит. Зато, во-первых, без галюнов, ибо в итоге имеются чёткие правила вместо статистических весов, во-вторых, эти правила поддаются валидации человеком, ибо исходный код на лице. Ну круто же. Та и не только человеком, вообще говоря, можно и математики накрутить с автоматическими доказательствами.
|
|
Сообщ.
#7
,
|
|
|
|
Цитата Qraizer @ во-первых, без галюнов, ибо в итоге имеются чёткие правила вместо статистических весов Это с чего бы вдруг? Галюны не из-за статистических весов, а из-за того, что они специально искажаются. Иначе все это превратиться в обычную формулу. Пусть даже и будет некоторые "интересные" интерполяции и экстраполяции. Цитата Qraizer @ во-вторых, эти правила поддаются валидации человеком, ибо исходный код на лице. Это с чего бы вдруг нейронка, которая сама себе че-то там генерит будет заботитсья о том, что бы какой-то там человек че-то там валидировал!? Да ну даже если и так, сколько там милиардов параметров сейчас у них? Удачи валидировать  |
|
|
Сообщ.
#8
,
|
|
|
Цитата Felan @ Именно из-за статистических весов. Предсказание наиболее вероятного следующего токена – лучше формулы пока не придумали. И да, там простая формула, управляемая коэффициентами. Просто длинная, с кучей слоёв сиречь рекурсий к самой себе. Это не секрет, и не секрет даже сама формула. Вот коэффициенты к ней фикъпоймёшь какие, пока не заклянешь в нутро этих мильярдов параметров.Галюны не из-за статистических весов, а из-за того, что они специально искажаются. Иначе все это превратиться в обычную формулу Цитата Felan @ Запросто. Пролог несложно поддаётся математическому анализу на основе строгой мат.логики. Это не какой-то там условный императивный хаос с его непредсказуемостью в ран-тайм. А стопицод мильярдов параметров – это просто количество, формальные методы легко и быстро на основе импликаций его сворачивают в более простые промежуточные выводы. ...Удачи валидировать Добавлено Цитата Felan @ Не будет. Она этого и не делает. Когда обучается, она это делает себе. Просто мы умные, и когда думаем, что харэ, давай работай, берём и сохраняем их в условный gpt-oss-20b-MXFP4.gguf, куда эти 20 лярдов параметров сливаем. Ну а тут будет не 11 Гб бинарник, а 111 Гб прологового текста. Чи не проблема... Это с чего бы вдруг нейронка, которая сама себе че-то там генерит будет заботитсья о том, что бы какой-то там человек че-то там валидировал!? |
|
Сообщ.
#9
,
|
|
|
|
Цитата Qraizer @ Именно из-за статистических весов. Не-а. Они в время работы не меняются. Я вроде не слышал, что бы сделал сетки которые в процессе обучаются\корректируют свои веса. А следовательно, веса весами, но они всегда постоянные. А вариативность достигается т.н. температурой. Это другое. Цитата Qraizer @ Пролог несложно поддаётся математическому анализу на основе строгой мат.логики Математически там анализировать нечего. Формула известна, коффициенты тоже. Важны вазаимосвязи коэффициентов. И тут две проблемы. На милиарды параметров взаимоотношение кратно больше и смысла взаимоотношения непонятно как определять с учетом того, что оно может и учавствует во множестве "решений". Цитата Qraizer @ Когда обучается, она это делает себе. Просто мы умные, и когда думаем, что харэ, давай работай, берём и сохраняем их в условный gpt-oss-20b-MXFP4.gguf, куда эти 20 лярдов параметров сливаем. Ну а тут будет не 11 Гб бинарник, а 111 Гб прологового текста. Чи не проблема... Ну начнем с придирок  Нейронка сама ничего не делеает. Она не обучается. Ее обучают. Т.е есть стадия обучения (подбор весов, с чего вообще это назвали обучением!?) и стадия работы. Они, пока, не пересекаются. А процессы подбора и расчета ошибки по отношению к нейронке - внешние. Т.е. ничего "она" "себе" не делает.Да, насохраняли этих весов, только как их интерпритировать? Какая принципиальная разница межде слючевыми словами пролога и числами? Ну и в конце внезапно выяснится, что не в человечиских возможностях в серьез ананализировать 111 Гб чего-либо. Будем брать для этого другую нейронку... Упс, походу зациклились Не, ну если я не прав, нухотя бы на треть, про динамические нейронки например, может кто ссылкой кинет? |
|
Сообщ.
#10
,
|
|
|
|
Цитата Felan @ Не, ну если я не прав, нухотя бы на треть, про динамические нейронки например, может кто ссылкой кинет? Хочешь спросить про нейронки - спроси нейронку  Скрытый текст Современные самообучаемые (self-supervised) нейронные сети Модели, которые учатся на неразмеченных данных через pretext-задачи (маскирование, контрастирование, предсказание представлений и т.д.).Эти подходы лежат в основе большинства современных foundation models. |
|
Сообщ.
#11
,
|
|
|
|
Не размеченные данные это давно уже не новость. Речь о том что они либо работают либо учатся. Вроде пока эти два стадии не научились совмещать.
|
|
Сообщ.
#12
,
|
|
|
|
Цитата Felan @ Вроде пока эти два стадии не научились совмещать. Да, читал, есть такое - пока только пытаются. В продакшене такого нету. |
|
|
Сообщ.
#13
,
|
|
|
Цитата Felan @ Ок, придираемся. Я не вижу разницы в том, чтобы после обучения сохранять веса или сохранять прологовый код. Но веса хренпоймишозахрень, а код вполне себе читаемая весчь, которая формально верифицируема сторонними методами, включая с применением математических методов доказательства корректности. Количество при этом не является препятствующим фактором, является хренпоймишохрень, которую верифицировать можно исключительно той самой формулой, то бишь самой нейронкой, этой же самой, которую верифицируем Ну начнем с придирок  .За галюны есть куча версий. Г.о. ссылаются на вероятностный подход как причину, на то они и вероятности. Есть ещё мнения, что дело в том, что нейронки всеми силами пытаются угодить промту, и потому иногда срываются в подтасовки ради с их точки зрения большей значимости "понравиться". Код же, прологовый или какой другой не суть, не будет вероятностным. Ну, по крайней мере я так понимаю отчёт самого AI в стартовом посту. Пролог же тут всплыл тупо по причине, что он декларативный, а не императивный, что некисло так выгоднее в плане его формальной верификации. |
|
Сообщ.
#14
,
|
|
|
|
Цитата Qraizer @ Ок, придираемся. Я не вижу разницы в том, чтобы после обучения сохранять веса или сохранять прологовый код. Вот с этим я с тобой согласен много-много. Но Felan ещй параллельно поднял вторую тему, а ля "работа в продакшене с непрерывным обучением/самообучением". И там, действительно, много реально "острых" подводных камней. Типа (одно из) - "потеря памяти" в процессе пересчета коэффициентов. Там ещо over-дохера аспектов ... но "бесшовная" реализация ИИ в плане обучения и самообучения + продакшен мода - действительно щяс проблемна. ... Но!!! Таки да =) Мы забыли про Prolog!!! Это можно считать "база константных данных". А что может быть красивще? Корень квадратный из минус единицы, да не смешите мои ласты! Хотя к комплексным исчислениям у меня нет негатива, честно. |
|
Сообщ.
#15
,
|
|
|
|
Цитата Qraizer @ Ок, придираемся. Я не вижу разницы в том, чтобы после обучения сохранять веса или сохранять прологовый код. Но веса хренпоймишозахрень, а код вполне себе читаемая весчь, которая формально верифицируема сторонними методами, включая с применением математических методов доказательства корректности. Количество при этом не является препятствующим фактором, является хренпоймишохрень, которую верифицировать можно исключительно той самой формулой, то бишь самой нейронкой, этой же самой, которую верифицируем . Так. Ну, во первых разница есть. Веса это просто набор чисел. Они не содержат в себе взаимосвязей. Какое число с каким связано? Для этого надо знать структуру нейронки. А это значит, что надо знать конкретный многочлен. Это для линейной. А если нейронка не линейная (есть связи между непоследовательными слоями, или не дай бог в разных направлениях) то все, приплыли. Без знания архитектыры сети веса можно выкидывать. А язык программирования это как ни крути поток данных и поток исполнения. Да он предствит и стуктуру тоже... но это будет уже в разы сложнее и анализировать 111 Гб это не кнопочку в другой цвет покрасить. Во вторых, проанализировать все это не значит построить карты или восстанивать архитектуру. Это значит конкретно объяснить, как она сделал вывод что на картинке кошка, а не харек, например. А подобные вещи люди то себе не могут объяснить внятно. А насчет верефецировть это все нейронкой... Цитата Felan @ Будем брать для этого другую нейронку... Упс, походу зациклились Цитата Qraizer @ За галюны есть куча версий. Г.о. ссылаются на вероятностный подход как причину, на то они и вероятности. Есть ещё мнения, что дело в том, что нейронки всеми силами пытаются угодить промту, и потому иногда срываются в подтасовки ради с их точки зрения большей значимости "понравиться". Код же, прологовый или какой другой не суть, не будет вероятностным. Ну, по крайней мере я так понимаю отчёт самого AI в стартовом посту. Пролог же тут всплыл тупо по причине, что он декларативный, а не императивный, что некисло так выгоднее в плане его формальной верификации. Да нет никакой кучи версий. Тут все предельно понятно. Есть многомерная функция. Нейронка это ее приближение неким многочленом. А дальше обычная аппроксимация\интерполяция\экстраполяция. Во время работы веса фиксированы, т.е. аппроксимация задана. А дальше, даем вход, если попали в экстраполированую облатьсь - фантазия\синтез\анализ, а если в интерполированую - знание\анализ\глюк. Самое гавное, что тут категория результата на самом деле определяетя все равно людьми. Если какая-нибдуь нейронка скажет что на картики с кошкой на самом деле 50% собаки, люди не скажут "О боже! Открыт новый вид!" Все скажут "хер вам а не денег" ваша нейронка гавно. В целом достижение нейросетей заключается только в том, что больше не надо искать функции, что сложно и не понятно как. Достаточно взять эпических размеров функцию (всмысле параметров), выбрать какую-нибудь непрерывнцю (функцию активации) модуляцию из ограниченного набора (сигмоида, ступенка че там еще есть это все равно технический момент что бы просто математические методы работали) и старым добрым градиентным спуском (ну или лавандовой модификацией что бы бабок срубить за инновации) подобрать коэффициенты под любую фигню. Ну да иногда помогает с неочевидными зависимостями, и даже может в некоторых случаях создавать результаты по очевидным. Ну типа после слоава "пошел" обычно идет "домой" Короче, я вообще не нейронкофоб. Удобная штука. Но не надо ее во все щели пихать. И уж тем более это не ИИ. Или не Сильный ИИ. Или как там теперь называется тру интеллект? ЗЫЖ Просто я тут не продаю нейронки. Продовал бы, я бы конечно так не богохульствовал |
0 пользователей читают эту тему (0 гостей и 0 скрытых пользователей)
0 пользователей:
[ Script execution time: 0.1051 ] [ 16 queries used ] [ Generated: 14.08.26, 00:47 GMT ]