slil.ru парсер

Discussion in 'Болталка' started by *uNkN0Wn*, 29 Mar 2011.

  1. *uNkN0Wn*

    *uNkN0Wn* Member

    Joined:
    25 Mar 2009
    Messages:
    175
    Likes Received:
    92
    Reputations:
    11
    Есть у кого?
    Выложите пожалуйста.
     
  2. Serafim

    Serafim Elder - Старейшина

    Joined:
    24 Oct 2006
    Messages:
    181
    Likes Received:
    103
    Reputations:
    18
    Вариантов 2:
    1. Google.ru > парсер slil.ru
    2. Купить тут> /thread264672.html
    Нужное подчеркнуть.
     
  3. шкoльнек

    Joined:
    19 Dec 2010
    Messages:
    3
    Likes Received:
    0
    Reputations:
    -3
    Держи хакер.
    http://rghost.ru/4982375/private/6c1713a13fb3b801829f280cdd23aa59
     
  4. skagen

    skagen Member

    Joined:
    8 Jan 2010
    Messages:
    122
    Likes Received:
    13
    Reputations:
    0
    вот держи http://zalil.ru/30760125
     
  5. Zombi ****

    Zombi **** Elder - Старейшина

    Joined:
    4 Apr 2009
    Messages:
    166
    Likes Received:
    183
    Reputations:
    17
    а на php есть у когото наработки??? с мя +
     
  6. *uNkN0Wn*

    *uNkN0Wn* Member

    Joined:
    25 Mar 2009
    Messages:
    175
    Likes Received:
    92
    Reputations:
    11
    PHP:
    <?php 

    //--------------------------------------------------------------------------------------------------------------// 

    //начальный файл// 
    $start 30759100
    //конечный файл// 
    $end 30759241
    //интересные нам расширения файлов// 
    $files = array('doc'); 
    //ограничение по размеру (MB)// 
    $size 10
    //файл для записи// 
    $h fopen('db','a+'); 

    //--------------------------------------------------------------------------------------------------------------// 
    for($i=$start;$i<=$end;$i++) 
        if(
    preg_match('#<p align="center">([^<]*)#i'curlPage('http://slil.ru/'.$i), $data)) 
        { 
            
    $c true
            
    $file explode(' ',str_replace('&nbsp;',' ',trim($data[1]))); 
            if(
    $size
            { 
                    
    $co explode('MB',array_pop($file)); 
                    
    $sz = (float) $co[0]; 
                    if(
    $sz>$size
                            
    $c false
            } 
            if(
    count($files)) 
            { 
                    
    $exp explode('.',$file[0]); 
                    if(
    in_array(array_pop($exp),$files) && $c
                            
    fwrite($hstr_replace('&nbsp;',' ',trim($data[1])) . '   http://slil.ru/' $i "\n"); 
            } 
            else 
                    if(
    $c
                            
    fwrite($hstr_replace('&nbsp;',' ',trim($data[1])) . '   http://slil.ru/' $i "\n"); 
        } 
    fclose($h); 

    function 
    curlPage($url

            if( !
    function_exists('curl_init')) 
                    die(
    'На сервере не установлено или отключено расширение cURL. Скрипт завершил работу.'); 
            
    $curl curl_init(); 
            
    curl_setopt($curl,CURLOPT_URL,$url); 
            
    curl_setopt($curl,CURLOPT_RETURNTRANSFER,true); 
            
    curl_setopt($curlCURLOPT_HTTPHEADER, array('User-Agent: Spider php','Accept: text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8,application/json','Accept-Language: ru,en-us;q=0.7,en;q=0.3','Accept-Encoding: deflate','Accept-Charset: UTF-8,*','Keep-Alive: 300','Connection: keep-alive','Referer: http://phpblog.biz')); 
            
    curl_setopt($curl,CURLOPT_CONNECTTIMEOUT,300); 
            return 
    curl_exec($curl); 
    }
    Вот попробуй.
     
  7. *uNkN0Wn*

    *uNkN0Wn* Member

    Joined:
    25 Mar 2009
    Messages:
    175
    Likes Received:
    92
    Reputations:
    11
    to шкoльнек, skagen
    пишет в логе
    - Can't find the page
    на все ссылки
     
  8. salmen

    salmen New Member

    Joined:
    13 Mar 2011
    Messages:
    6
    Likes Received:
    0
    Reputations:
    0
    PHP:
    <?php   set_time_limit(0);   debug();     /********** config **********/   $config["start"] = 29391240// run at 29391240   $config["end"] = 29391243; // complete on 29391290   $config["logger"] = false; // write logs? true|false   $config["search"] = false; // regExp|false;   /********** end **********/     $data = "";   $slil = new slil;     while ( $config["start"] <= $config["end"] ) {       $slil -> setID($config["start"]);       $data .= $slil -> get_slil_data($config);              $config["start"]++;   }     if ( $config["logger"] ) {       $open = fopen("log.txt", "w+");       fwrite($open, $data);       fclose($open);              die("Finish!");   }     die(nl2br($data));     class slil {       var $id;              function get_slil_data ( $config ) {           $url = "http://slil.ru/" . $this -> id;                      $ch = curl_init();           curl_setopt($ch, CURLOPT_USERAGENT, "Opera/9.80 (Windows NT 6.0; U; ru) Presto/2.5.24 Version/10.53");           curl_setopt($ch, CURLOPT_HTTPHEADER, array('Accept-Language: ru,en-us;q=0.7,en;q=0.3',               'Accept: text/html, application/xml;q=0.9, application/xhtml+xml, image/png, image/jpeg, image/gif, image/x-xbitmap, */*;q=0.1',               'Accept-Encoding: deflate',               'Accept-Language: ru-RU,ru;q=0.9,en;q=0.8',               'Accept-Charset: iso-8859-1, utf-8, utf-16, *;q=0.1',               'Pragma: no-cache',               'Cache_Control: no-cache',               'Connection: Keep-Alive, TE',               'TE: deflate, gzip, chunked, identity, trailers'));           curl_setopt($ch, CURLOPT_URL, $url);           curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);           curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);           curl_setopt($ch, CURLOPT_TIMEOUT, 10);             if ( !preg_match_all("/var link='(.*)';/", curl_exec($ch), $data) ) {               return false;           }                      if ( ($config["search"] && preg_match_all($config["search"], $data[1][0], $match)) || !$config["search"] ) {               $exp = explode(chr(47), $data[1][0]);                              $buf**** = "URL: " . $url;               $buf**** = "ID: " . $this -> id;               $buf**** = "Name: " . $exp[3];               $buf**** = "Direct URL: http://slil.ru" . $data[1][0];               $buf**** = "------------------\r\n";                              return implode("\r\n", $buf);           }                      return false;       }              function setID ( $id ) {           $this -> id = $id;       }   }     function debug () {       error_reporting(E_ALL ^ E_NOTICE);              if ( !function_exists("curl_init") ) {           die("cURL isn`t installed!");       }              if ( !fopen("log.txt", "w+") ) {           die("Can`t open the log.txt file!");       }   }   ?>



    // $buf**** = $buf****
    // если запись в лог отключена, то результат выведит на странице
    // если поиск включен, то на вывод ведутся только подходящие данные
    (c)_Dublin
     
  9. skagen

    skagen Member

    Joined:
    8 Jan 2010
    Messages:
    122
    Likes Received:
    13
    Reputations:
    0
    *uNkN0Wn*? все отлично работает. это у тебя что то не так.скрин:
    [​IMG]
     
  10. шкoльнек

    Joined:
    19 Dec 2010
    Messages:
    3
    Likes Received:
    0
    Reputations:
    -3
    Все работает, только что проверил.
     
  11. Zombi ****

    Zombi **** Elder - Старейшина

    Joined:
    4 Apr 2009
    Messages:
    166
    Likes Received:
    183
    Reputations:
    17
    не работает! скрины выложи релультатов?? ))
     
  12. *uNkN0Wn*

    *uNkN0Wn* Member

    Joined:
    25 Mar 2009
    Messages:
    175
    Likes Received:
    92
    Reputations:
    11
    Блин, хз, у меня не пашет. Пишет Can't find the page
    кто знает в чём трабла?
     
  13. шкoльнек

    Joined:
    19 Dec 2010
    Messages:
    3
    Likes Received:
    0
    Reputations:
    -3
    http://s47.radikal.ru/i115/1103/6b/621e45dd63e6.jpg
     
  14. Gvidion

    Gvidion Elder - Старейшина

    Joined:
    11 Sep 2009
    Messages:
    79
    Likes Received:
    43
    Reputations:
    28
    а есть прога\скрипт который всё это дело сохранит в одну папку?
     
  15. skagen

    skagen Member

    Joined:
    8 Jan 2010
    Messages:
    122
    Likes Received:
    13
    Reputations:
    0
    что ты хочешь сохранять в папку? все ссылки и названия спарсенных файлов сохраняются в log.txt
     
  16. Gvidion

    Gvidion Elder - Старейшина

    Joined:
    11 Sep 2009
    Messages:
    79
    Likes Received:
    43
    Reputations:
    28
    а мне надо что всё что нашло - качало ) там много полезной хрени, лабараторные, диплом ток что нарыл. Хочу что б само качало в папку, я потом перебирал. Или на ПХП такое бы, думаю для знатока CURL строк 5 кода.
     
  17. *uNkN0Wn*

    *uNkN0Wn* Member

    Joined:
    25 Mar 2009
    Messages:
    175
    Likes Received:
    92
    Reputations:
    11
    Нету больше софта для парса слил.ру?
    Тут у меня пишет Can't find the page ((
     
  18. buxmanager

    buxmanager Elder - Старейшина

    Joined:
    1 Apr 2009
    Messages:
    610
    Likes Received:
    229
    Reputations:
    69
    thanks _)
     
  19. ttt0z

    ttt0z Member

    Joined:
    18 Nov 2007
    Messages:
    60
    Likes Received:
    10
    Reputations:
    -5
    что вы находите этим парсером?
     
  20. *uNkN0Wn*

    *uNkN0Wn* Member

    Joined:
    25 Mar 2009
    Messages:
    175
    Likes Received:
    92
    Reputations:
    11
    мусор, может быть он станет когда-нибудь космическим кораблем...