<?xml version='1.0' encoding="utf-8"?>
      <rss version='2.0'>
      <channel>
      <title>Форум на Исходниках.RU</title>
      <link>https://forum.sources.ru</link>
      <description>Форум на Исходниках.RU</description>
      <generator>Форум на Исходниках.RU</generator>
  	
      <item>
        <guid isPermaLink='true'>https://forum.sources.ru/index.php?showtopic=398296&amp;view=findpost&amp;p=3572173</guid>
        <pubDate>Mon, 09 Feb 2015 15:25:14 +0000</pubDate>
        <title>корректный роботс.тхт для самописного сайта</title>
        <link>https://forum.sources.ru/index.php?showtopic=398296&amp;view=findpost&amp;p=3572173</link>
        <description><![CDATA[FreeWayy: <div class='tag-quote'><a class='tag-quote-link' href='https://forum.sources.ru/index.php?showtopic=398296&view=findpost&p=3564345'><span class='tag-quote-prefix'>Цитата</span></a> <span class='tag-quote__quote-info'>artur_ik &#064; <time class="tag-quote__quoted-time" datetime="2015-01-18T00:03:21+03:00">17.01.15, 21:03</time></span><div class='quote '>вы в гугл вебмастер проверьте что робот видит.</div></div><br>
посмотрел -  <a class='tag-url' href='http://take.ms/WLBGf' target='_blank'>http://take.ms/WLBGf</a> <br>
<br>
типа все супер?]]></description>
        <author>FreeWayy</author>
        <category>SEO</category>
      </item>
	
      <item>
        <guid isPermaLink='true'>https://forum.sources.ru/index.php?showtopic=398296&amp;view=findpost&amp;p=3564345</guid>
        <pubDate>Sat, 17 Jan 2015 21:03:21 +0000</pubDate>
        <title>корректный роботс.тхт для самописного сайта</title>
        <link>https://forum.sources.ru/index.php?showtopic=398296&amp;view=findpost&amp;p=3564345</link>
        <description><![CDATA[artur_ik: вы в гугл вебмастер проверьте что робот видит.]]></description>
        <author>artur_ik</author>
        <category>SEO</category>
      </item>
	
      <item>
        <guid isPermaLink='true'>https://forum.sources.ru/index.php?showtopic=398296&amp;view=findpost&amp;p=3562845</guid>
        <pubDate>Wed, 14 Jan 2015 09:30:53 +0000</pubDate>
        <title>корректный роботс.тхт для самописного сайта</title>
        <link>https://forum.sources.ru/index.php?showtopic=398296&amp;view=findpost&amp;p=3562845</link>
        <description><![CDATA[FreeWayy: Всем привет&#33;  делаю потихоньку <a class='tag-url' href='http://aforizmus.com' target='_blank'>сайт афоризмов</a><br>
<br>
Роботс делал по статье, а также методом тыка (смотрел в гуглвебмастере ошибки сканирования и путь писал в роботс)<br>
<br>
вот мой роботс:<br>
<br>
 <br>
User-agent:*<br>
User-agent: Yandex<br>
Host: aforizmus.com<br>
Allow: /Images/Data/<br>
Disallow: /home/Rss<br>
Disallow: /Record/GetAvtorsSide<br>
Disallow: /Record/AphorismByAvtor<br>
Disallow: /Record/AphorismByCat<br>
Disallow: /Record/RecToEml<br>
Disallow: /Record/RecToFav<br>
Disallow: /Record/AddComment<br>
Disallow: /Record/AddChildToComment<br>
Disallow: /?page<br>
Disallow: /404.htm<br>
<br>
/Images/Data/ это папка картинок статей, аватарок, я бы хотел чтобы они индексировались, но в корневой папке Images масса других папок и картинок.... как то можно Images закрыть, но /Images/Data/ оставить открытым?<br>
<br>
<br>
предполагаю, что с картинками так:<br>
<br>
<br>
Disallow: /Images<br>
Allow: /Images/Data<br>
<br>
сначала на все запрещаем, затем разрешаем только нужную<br>
<br>
буду благодарен за комментарии и подсказки, может я где то налажал... спасибо]]></description>
        <author>FreeWayy</author>
        <category>SEO</category>
      </item>
	
      </channel>
      </rss>
	