Site-uri

Software-ul Nou Detectează Bots Scraping Web Site Data

What is data scraping?

What is data scraping?
Anonim

Site-urile web, cum ar fi panourile de locuri de muncă, se confruntă cu o problemă persistentă: datele lor sunt în mod constant smulse de robotul automat.

Datele se termină pe alte placi de lucru concurente, care au furat conținutul. Este o problemă care afectează orice site Web al cărui proprietate intelectuală trebuie publicată gratuit, sau chiar pe cele cu modele de abonament.

Dar o companie de securitate bazată pe Atlanta, specializată în detectarea boturilor, a dezvoltat un software care poate detecta ecranul și devizele de date miniere

[Citiți în continuare: Cum să eliminați programele malware de pe PC-ul Windows]

Produsul principal al companiei Pramana, HumanPresent, detectează robotii automați care, de exemplu, introduc spam în formulare Web sau se înregistrează gratuit conturile de e-mail care vor fi utilizate pentru spam.

Pramana a dezvoltat acum un modul numit "data mining and screen scraping prevention" pentru HumanPresent. Funcționează pe multe dintre aceleași principii ca și produsul principal, dar a fost modificat pentru scenarii de extragere a datelor, a declarat David Crowder, CEO al lui Pramana.

HumanPresent poate detecta boturile prin observarea diferențelor în felul în care un om ar interacționa în mod normal cu un Web și contrastează cu modul în care se comportă roboții. Se referă la mai mult de 30 de valori, cum ar fi accidentele de tastatură, clicurile de mouse și momentul acestor acțiuni.

HumanPresent se uită la tranzacții unice, dar modulul de extragere a datelor a fost modificat pentru a se uita la o perioadă de timp când un bot sau omul este pe site, a spus Crowder.

Motoarele de date de mining tind să ocolească în întregime interfața de utilizator a browserului. De exemplu, un bot poate solicita o pagină Web cu o mulțime și o mulțime de date, dar nu derulează niciodată clicuri sau clicuri pe o pagină. Dacă o serie de pagini sunt deschise și vizualizate în acest mod, ar putea însemna un bot de date mining.

Pramana atribuie vizitatorului un ID unic și după ce a analizat comportamentul vizitatorului, poate decide dacă eticheta vizitatorul un bot sau nu. Există mai multe moduri diferite în care un operator de site Web poate alege să facă față situației.

Adresa IP (Internet Protocol) a computerului botului poate fi blocată permanent. Un site web de licitație pentru mașini, care testează modulul de extragere a datelor de la Pramana, a decis să transfere bănuiți suspectați într-o "cutie de nisip" în care se oferă date complet false.

"Sunt într-adevăr miniere de date -.

Alte opțiuni includ solicitarea vizitatorului site-ului Web cu o provocare sau o sarcină, pe care unii bots nu sunt capabili să o finalizeze.

Exploatarea de date costă companii scump. Companiile care vând date premium vor constata că concurenții lor vor cumpăra un abonament și apoi vor folosi boturi automate pentru a fura datele pentru propriile site-uri. Într-un exemplu, un site Web care conține gigabytes de date despre prețurile mașinilor uzate a constatat că datele lor au fost șterse și că au fost vândute pe eBay.

"Ele sunt de fapt în concurență cu conținutul propriu", a spus Crowder. Site-urile Web au modele slabe care fac ca scrapingul de date să fie mult mai ușor. Site-ul folosit de mașini a avut adrese URL (Uniform Resource Locators) ar putea fi modificat secvențial pentru a dezvălui mai multe date, a spus Crowder.

Modulul de extragere a datelor va fi încorporat în produsul HumanPresent pentru moment, dar la începutul anului viitor Pramana intenționează să-l vândă separat, a spus Crowder. Pramana oferă aplicația HumanPresent fie ca un aparat de lucru la comandă, fie ca o configurație software-ca-service.

Pentru oferta SaaS (software ca serviciu), tehnologia Pramana este integrată într-o aplicație Web și informațiile despre sesiune sunt trimise înapoi la Pramana pentru analiză. Crowder a spus că Pramana a reușit să reducă în mod semnificativ timpul de latență în cea mai recentă versiune. Pentru clienții care au nevoie de mai multă viteză, aparatul este disponibil.