<?xml version='1.0' encoding="utf-8"?>
      <rss version='2.0'>
      <channel>
      <title>Форум на Исходниках.RU</title>
      <link>https://forum.sources.ru</link>
      <description>Форум на Исходниках.RU</description>
      <generator>Форум на Исходниках.RU</generator>
  	
      <item>
        <guid isPermaLink='true'>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3908456</guid>
        <pubDate>Fri, 09 Aug 2024 19:26:53 +0000</pubDate>
        <title>Разработка своего ChatGPT</title>
        <link>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3908456</link>
        <description><![CDATA[Majestio: <div class='tag-quote'><a class='tag-quote-link' href='https://forum.sources.ru/index.php?showtopic=444805&view=findpost&p=3907330'><span class='tag-quote-prefix'>Цитата</span></a> <span class='tag-quote__quote-info'>H g &#064; <time class="tag-quote__quoted-time" datetime="2024-07-18T11:04:47+03:00">18.07.24, 08:04</time></span><div class='quote '>В каком смысле &quot;своей&quot; ? Российской или своей личной ?</div></div><br>
Хочется &quot;личный&quot;, &quot;персональный&quot; ассистент. Обучаемый в ту степь, куда будет желание владельца.]]></description>
        <author>Majestio</author>
        <category>Нейросети и Искусственный интеллект (Artificial Intelligence)</category>
      </item>
	
      <item>
        <guid isPermaLink='true'>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3907330</guid>
        <pubDate>Thu, 18 Jul 2024 08:04:47 +0000</pubDate>
        <title>Разработка своего ChatGPT</title>
        <link>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3907330</link>
        <description><![CDATA[H g: Рассуждения на тему искусственного интеллекта<br>
<div class="tag-spoiler spoiler closed"><div class="spoiler_header" onclick="openCloseParent(this)">Скрытый текст</div><div class="body">К каждому предложению написанному ниже можно придраться, привести опровергающие доводы, показав частные случаи, что это не так, но тем не менее прошу сначала увидеть мою главную линию.<br>
<br>
Что отличает живой организм от механического. Живой организм старается сохранить жизнь. Смерть (а если точнее поиск отсутствия этой ситуации) это тот двигатель, который определяет развитие индивидуального организма, да и общества в целом. Пока машина не боится что ей отключат питание, машине все равно какие задачи на ней считают, какие картинки она выводит. Быстродействие, объемы памяти - что не умножай на ноль нулем и останется. Поясню : Если добавлять планки памяти и ядра процессору, ведь логика обработки сигналов не изменится. Для того чтобы создать ИИ нужно проектировать другой процессор. Какой ? Ответ находится в той же глубине организации, где и ответ на вопрос когда химические реакции органических молекул начинают становиться осознанными. Кто нибудь знает ответ ? Если я сейчас напишу что в мире нет ни одного человека который ответит на эти вопросы, то скорее всего я не ошибусь.<br>
<br>
Что же делать : изучать биологию, цитологию, химию, биохимию...  Сейчас смотрю видео курс Окштейн &quot;Химический состав клетки&quot;. Очень интересно, рекомендую. Там была сказана одна вещь в клетке находятся митахондрии, которые собственно и осуществляют процесс дыхания, а клетки нашего организма живут с ними в симбиозе. Как скоро человечество вернее кто нибудь из людей сможет совершить открытие и точно сказать &quot;вот теперь я точно могу утвержтать что именно вот эта аминокистолота и есть человеческое я&quot;. Думаю не скоро.<br>
<br>
Можно ли создать ЧатГПТ. По мне так это продвинутая программа серии &quot;Бредо-генератор&quot; Программист закладывает алгоритм и программа его выполняет. Обучение это часть алгоритма, просто вместо переменных которые, в программе, переменные будут звяты из вне в процессе &quot;обучения&quot;. Стоит ли этим заниматься - смотря какие цели, если с друзьями повеселиться, то определенно - да. Можно достигнуть неплохих результатов. Если попытаться составить конкуренцию ЧатуГПТ - то наверное нет, потому что такие вычислительные мощности доступны компаниям с большими финансовыми возможностями. Вся суть ЧатаГПТ именно в высокой мощности вычислений.<br>
<br>
Если искусственным ителлектом называть любой агоритм (например в играх), то так можно в этом понятии дойти что вообще любой алгоритм это ИИ. Тогда и хеловорд - искуственный интеллект для домахозяйки. Ведь это же очень удивительно, что компьютер что-то вывел на экран. А может он живой ?<br>
</div></div><br>
<div class='tag-quote'><span class='tag-quote-prefix'>Цитата</span> <div class='quote '><br>
Немножко вопросов:<br>
1) Что-такого произошло, что в последнее время нейросети &quot;получили второе дыхание&quot;, ведь тема совершенно не новая?<br>
2) Каковы этапы разработки своей ChatGPT (без задействования каких-либо фрэймворков)?</div></div><br>
1. Вычислительные мощности стали дешевле и доступнее.<br>
2. В каком смысле &quot;своей&quot; ? Российской или своей личной ?]]></description>
        <author>H g</author>
        <category>Нейросети и Искусственный интеллект (Artificial Intelligence)</category>
      </item>
	
      <item>
        <guid isPermaLink='true'>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3903304</guid>
        <pubDate>Thu, 18 Apr 2024 20:07:26 +0000</pubDate>
        <title>Разработка своего ChatGPT</title>
        <link>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3903304</link>
        <description><![CDATA[Majestio: Не-не  ... я еще не прошол пробы на Петон, но уже начинает тошнить - явно штото не то. Душный и аллергенный ЯП. К гадалке не ходи &#33;&#33;&#33;]]></description>
        <author>Majestio</author>
        <category>Нейросети и Искусственный интеллект (Artificial Intelligence)</category>
      </item>
	
      <item>
        <guid isPermaLink='true'>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3903303</guid>
        <pubDate>Thu, 18 Apr 2024 16:48:57 +0000</pubDate>
        <title>Разработка своего ChatGPT</title>
        <link>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3903303</link>
        <description><![CDATA[macomics: Врач скажет, что у вас аллергия на все кроме двоичного кода. Завязывайте с программированием и начинайте точить карандаши. :D]]></description>
        <author>macomics</author>
        <category>Нейросети и Искусственный интеллект (Artificial Intelligence)</category>
      </item>
	
      <item>
        <guid isPermaLink='true'>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3903285</guid>
        <pubDate>Thu, 18 Apr 2024 14:32:45 +0000</pubDate>
        <title>Разработка своего ChatGPT</title>
        <link>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3903285</link>
        <description><![CDATA[Majestio: Оффтопик конечно, но нейросеть меня своим ответом рассмешила  :lol: <br>
<br>
<div class='tag-quote'><span class='tag-quote-prefix'>Цитата</span> <div class='quote '>Если у вас есть аллергия на Python, то по медицинским соображениям вы можете использовать другие языки программирования, такие как C++, Ruby, Perl и Dart, для вашего проекта по созданию нейросети для исправления ошибок орфографии и пунктуации в русскоязычных текстах.</div></div> <br>
<br>
<span class="tag-color tag-color-named" data-value="mergepost" style="color: mergepost"><span class='tag-size' data-value='7' style='font-size:7pt;'>Добавлено <time class="tag-mergetime" datetime="2024-04-18T14:53:08+00:00">18.04.24, 14:53</time></span></span><br>
Ой не могу, нейросеть меня заставляет плакать, и морда лица уже от смеха болит:<br>
<br>
<div class='tag-quote'><span class='tag-quote-prefix'>Цитата</span> <div class='quote '>Крапивница и отёк Квинке могут быть аллергическими реакциями на язык программирования Python. Однако, каждый организм индивидуален, и реакция на разные языки программирования может отличаться у разных людей. Если у вас возникают аллергические реакции при работе с Python, но нет таких проблем при использовании Perl 5 или С++, вам стоит обратиться к врачу-аллергологу для получения конкретных рекомендаций и диагностики вашего состояния.<br>
<br>
Возможно, вам потребуется провести аллергические тесты, чтобы выяснить, на что именно вы реагируете. <strong class='tag-b'><span class="tag-color tag-color-named" data-value="red" style="color: red">Врач сможет определить, есть ли у вас аллергия на какие-либо компоненты Python или его окружение разработки.</span></strong> Он также сможет предложить вам специфическую терапию <strong class='tag-b'><span class="tag-color tag-color-named" data-value="red" style="color: red">или рекомендации по выбору другого языка программирования</span></strong>, который не вызывает у вас аллергических реакций.</div></div><br>
Выделенное красным - меня особенно впечатлило&#33; :lool:]]></description>
        <author>Majestio</author>
        <category>Нейросети и Искусственный интеллект (Artificial Intelligence)</category>
      </item>
	
      <item>
        <guid isPermaLink='true'>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3903237</guid>
        <pubDate>Thu, 18 Apr 2024 07:27:24 +0000</pubDate>
        <title>Разработка своего ChatGPT</title>
        <link>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3903237</link>
        <description><![CDATA[Pavia: <div class='tag-quote'><a class='tag-quote-link' href='https://forum.sources.ru/index.php?showtopic=444805&view=findpost&p=3903219'><span class='tag-quote-prefix'>Цитата</span></a> <span class='tag-quote__quote-info'>Majestio &#064; <time class="tag-quote__quoted-time" datetime="2024-04-18T06:09:43+00:00">18.04.24, 06:09</time></span><div class='quote '>Т.е. без использования выше перечисленных сделать что-то своё автономное (пусть и на пару порядков &quot;тупее&quot;) - нереально?</div></div><br>
:-? Это лучше у специалистов уточнить. Я просто 3 года не слежу за темой.<br>
В прочем люди делают берут Bert<br>
Либы как Андрей Карпаты с нуля в 500 строк кода.<br>
 <a class='tag-url' href='https://www.youtube.com/@AndrejKarpathy/videos' target='_blank'>https://www.youtube.com/@AndrejKarpathy/videos</a><br>
<br>
<br>
ЧатГПТ спонсирует Майкрософт и Гугл. <br>
Данные для обучения стековерфлоат, Википедия. А так же гитхаб и розеткоде. <br>
<br>
Есть уже выкаченные базы. <br>
<br>
Самое ценное это запросы. По ним открытых баз нету. Но есть <a class='tag-url' href='https://www.kaggle.com/datasets' target='_blank'>https://www.kaggle.com/datasets</a><br>
<br>
Там периодически проскакивают. <br>
<br>
<br>
Трансформеры это такие сети которые преобразуют один набор байт в другой. По сути состоят из двух сетей сжимающей и генерирующей. <br>
<br>
В прочем современные из 3-4 разных слоев.<br>
<br>
Раньше CTC Loss + RNN + GAN. Либо LSTM вместо RNN.   Теперь LLM в моде.]]></description>
        <author>Pavia</author>
        <category>Нейросети и Искусственный интеллект (Artificial Intelligence)</category>
      </item>
	
      <item>
        <guid isPermaLink='true'>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3903219</guid>
        <pubDate>Thu, 18 Apr 2024 06:09:43 +0000</pubDate>
        <title>Разработка своего ChatGPT</title>
        <link>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3903219</link>
        <description><![CDATA[Majestio: <div class='tag-quote'><a class='tag-quote-link' href='https://forum.sources.ru/index.php?showtopic=444805&view=findpost&p=3903218'><span class='tag-quote-prefix'>Цитата</span></a> <span class='tag-quote__quote-info'>Pavia &#064; <time class="tag-quote__quoted-time" datetime="2024-04-18T05:55:48+00:00">18.04.24, 05:55</time></span><div class='quote '>Сначала 1 фирмы сделала ЧатГПТ. И дала доступ к сайту. Затем 100 программистов сделали 100 своих сайтов на нац языках. Затем 10000 программистов написало 10000 ботов которые обращаются к этим 100 сайтам. Которые коннектятся к тому 1 арининальному. Но если оригинал довал 100 запросов в день. То последние всего 3.</div></div><br>
Т.е. без использования выше перечисленных сделать что-то своё автономное (пусть и на пару порядков &quot;тупее&quot;) - нереально?<br>
<br>
<div class='tag-quote'><a class='tag-quote-link' href='https://forum.sources.ru/index.php?showtopic=444805&view=findpost&p=3903218'><span class='tag-quote-prefix'>Цитата</span></a> <span class='tag-quote__quote-info'>Pavia &#064; <time class="tag-quote__quoted-time" datetime="2024-04-18T05:55:48+00:00">18.04.24, 05:55</time></span><div class='quote '>Разработали трансформеры.</div></div><br>
А что за &quot;трансформеры&quot; в контексте сабжа?<br>
<br>
<div class='tag-quote'><a class='tag-quote-link' href='https://forum.sources.ru/index.php?showtopic=444805&view=findpost&p=3903218'><span class='tag-quote-prefix'>Цитата</span></a> <span class='tag-quote__quote-info'>Pavia &#064; <time class="tag-quote__quoted-time" datetime="2024-04-18T05:55:48+00:00">18.04.24, 05:55</time></span><div class='quote '>Тренируются они по отдельности.</div></div><br>
Каков процесс тренировки и откуда берутся данные для тренировки?]]></description>
        <author>Majestio</author>
        <category>Нейросети и Искусственный интеллект (Artificial Intelligence)</category>
      </item>
	
      <item>
        <guid isPermaLink='true'>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3903218</guid>
        <pubDate>Thu, 18 Apr 2024 05:55:48 +0000</pubDate>
        <title>Разработка своего ChatGPT</title>
        <link>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3903218</link>
        <description><![CDATA[Pavia: Сначала 1 фирмы сделала ЧатГПТ. И дала доступ к сайту. Затем 100 программистов сделали 100 своих сайтов на нац языках. Затем 10000 программистов написало 10000 ботов которые обращаются к этим 100 сайтам. Которые коннектятся к тому 1 арининальному. Но если оригинал довал 100 запросов в день. То последние всего 3. <br><br>==================<br>А так в эту область вливали большие бабки с 2000-ных годов.И много всего тут произошло. <br>Разработали трансформеры.<br>Научились тренировать большие модели в 64 тыс коэффициентов. <br><br>Тренируются они по отдельности. А потом объединяются.<br><br>А ещё за 1 гигантом стоит 100 мелких фирм. Которые делают куски для ЧатГПТ.]]></description>
        <author>Pavia</author>
        <category>Нейросети и Искусственный интеллект (Artificial Intelligence)</category>
      </item>
	
      <item>
        <guid isPermaLink='true'>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3903217</guid>
        <pubDate>Thu, 18 Apr 2024 05:14:26 +0000</pubDate>
        <title>Разработка своего ChatGPT</title>
        <link>https://forum.sources.ru/index.php?showtopic=444805&amp;view=findpost&amp;p=3903217</link>
        <description><![CDATA[Majestio: Всем привет&#33;<br><br>Уже достаточно продолжительное время пользуюсь различными версиями ChatGPT. Но сейчас возник интерес &quot;а как это сделано?&quot;. Хочется попробовать замутить что-то свое. Собственно, эту тему этому и посвящаю :) <br><br>Немножко вопросов:<br><br>1) Что-такого произошло, что в последнее время нейросети &quot;получили второе дыхание&quot;, ведь тема совершенно не новая?<br>2) Каковы этапы разработки своей ChatGPT (без задействования каких-либо фрэймворков)?<br><br>Ну и такой, отвлеченный вопрос - вам сабж интересен, или просто интересно использование уже готового?]]></description>
        <author>Majestio</author>
        <category>Нейросети и Искусственный интеллект (Artificial Intelligence)</category>
      </item>
	
      </channel>
      </rss>
	