1. Сегодня стартовали новогоднюю распродажу наших курсов! Подробности можно узнать в тут.
    Скрыть объявление

A-Parser 1.2 - продвинутый парсер поисковых систем, Whois, DMOZ, Alexa, и еще 85+ сервисов

Тема в разделе "Открытый форум - все-все-все", создана пользователем A-Parser Support, 21 май 2020.

  1. Сборник статей #17: поиск и привлечение аудитории в Instagram, сбор баз сайтов на заданных движках

    Представляем 17-й сборник статей, в который вошли статья о поиске и привлечении целевой аудитории в Instagram и статья о сборе баз сайтов на определенных движках.

    Instagram - сбор пользователей, автоматическая отправка сообщений собранным пользователям в direct

    В статье рассмотрен сбор целевой аудитории и привлечение её в наш инстаграм магазин с помощью автоматической рассылки в Direct.

    [​IMG]

    Как спарсить WordPress сайты (и не только) через A-Parser

    В этой статье показано как собрать сайты на движке WordPress через A-Parser с минимальным количеством мусора в виде других движков. Кроме того данный подход можно использовать для сбора баз на любых движках.

    [​IMG]

    Если вы хотите, чтобы мы более подробно раскрыли какой-то функционал парсера, у вас есть идеи для новых статей или вы желаете поделиться собственным опытом использования A-Parser (за небольшие плюшки :)) - отписывайтесь здесь.

    Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

    Все сборники статей

    [​IMG]

    [​IMG]
     
  2. Обновленные пресеты в каталоге A-Parser

    Обновление пресетов в Каталоге примеров A-Parser

    Скриншоты выдачи поисковой системы
    Демонстрация возможности делать скриншоты страниц, получаемых другими парсерами
    • Добавлена возможность выбирать из нескольких поисковиков (Google/Яндекс/Bing, по аналогии можно добавить остальные)
    • Все результаты, получаемые от парсера поисковика, теперь перемещены в объект $p1.results (для примера реализован вывод $serp)
    • Небольшие изменения логики работы
    Парсер изображений с Flickr
    Парсинг картинок из Flickr по ключевому слову
    • Пресет переделан в JS парсер на TypeScript
    • Добавлен выбор параметров поиска: Sort, License, Color, Style
    • Добавлен параметр выбора количества страниц
    • Для каждой картинки реализована возможность парсить ссылку, заголовок, описание, владельца, количество добавлений в избранное и количество комментариев
    Анализ скорости загрузки и юзабилити сайтов
    Измерение скорости загрузки страниц, их юзабилити, получение скриншотов сайтов
    • Парсер переписан на JS API v2 (TypeScript)
    • Добавлена возможность указывать ключ API
    • Адаптация к изменениям на источнике
    NeuralWriter - перефразирование, генератор промптов, резюмирование
    Парсер сервиса neuralwriter.com
    • Добавлена поддержка разгадывания каптчи Cloudflare Turnstile - опция Util::Turnstile preset. Разгадывание капчи теперь обязательно, если тип запроса не Prompt Generator
    Google Indexing API
    Добавление или удаление страниц сайта в Google Indexing API
    • Парсер переписан на TypeScript (JavaScript API v2)
    • Добавлена возможность использовать несколько ключей
    Генерация картинок ruDALL-E
    Напишите текстовый запрос — получите сгенерированную ИИ картинку в rudalle.ru
    • Исправлена генерация с помощью старой модели (ruDALL-E Malevich)
    • Для генерации картинки старой моделью теперь не требуется подключение Util::AntiGate
    • Добавлен выбор модели, которая будет генерировать изображения, добавлена новая модель Kandinsky 3.0 (new)
    • В моделе Kandinsky 3.0 есть возможность выбрать стиль генерации изображения, доступны все стили
    Еще больше различных парсеров и пресетов в нашем Каталоге!
    Присылайте свои идеи для новых парсеров сюда, самые интересные и востребованные мы обязательно реализуем!

    [​IMG]

    [​IMG]
     
  3. Premium прокси от A-Parser

    [​IMG]
    Мы рады представить вам новые Premium прокси-серверы, которые значительно улучшат вашу работу. Ключевые преимущества Premium прокси:
    • База более 10 миллионов резидентных (домашних) IP адресов: Обеспечьте себе разнообразие и стабильность соединения с нашей обширной базой IP адресов.
    • Быстрое время отклика: Мы гарантируем высокую скорость и оптимальное время отклика, обеспечивая эффективную работу ваших парсеров.
    • Гибкая фильтрация по странам и городам: Настройте прокси под свои потребности с помощью гибкой фильтрации, чтобы получать доступ к ресурсам из конкретных стран и городов.
    • Настройки ротации: Используйте различные режимы ротации, включая случайный IP на каждый запрос, ротацию от 1 до 60 минут и режим Sticky, который сохраняет IP на максимально возможное время.
    • Подходит для браузинга и парсинга: Наши прокси идеально подходят как для браузинга, так и для парсинга, с минимальным риском CAPTCHA и банов.
    • Доступ к прокси осуществляется по логину/паролю и протоколу SOCKS5, а также может быть организован сразу с нескольких компьютеров и серверов.
    Лучшие цены на рынке: Premium прокси от $1 за гигабайт трафика.

    Для всех пользователей A-Parser доступен бесплатный триал в Личном кабинете на 1 Гб.

    [​IMG]

    [​IMG]
     
  4. 1.2.2228 - 2 новых парсера, множество улучшений и исправлений

    [​IMG]

    Улучшения
    • Добавлен парсер геолокации IP/домена - [​IMG] IP::Geo
    • Добавлен парсер для разгадывания RotateCaptcha - [​IMG] Util::RotateCaptcha
    • В [​IMG] SE::Yandex добавлен параметр Serp time
    • В парсерах [​IMG] OpenAI::Completions и [​IMG] OpenAI::ChatGPT обновлены модели
    • В парсеры SE::Google::KeywordPlanner::* добавлен флаг, указывающий на точность данных
    • В [​IMG] SecurityTrails::IP добавлена возможность парсинга с авторизацией
    • В [​IMG] Shop::Aliexpress добавлена возможность парсить старую цену и валюту
    • В [​IMG] SE::Youtube::Video добавлена возможность собирать данные о Shorts
    • Добавлено информационное сообщение при ошибке импорта JS парсера
    Исправления в связи с изменениями в выдаче
    Исправления
    • Исправлена логика работы SE:: Dogpile
    • Исправлена работа Maps::Yandex с разгадыванием каптч
    • Исправлена проблема с интерфейсом при сохранении региона в SE::Yandex
    • SE::YouTube - устранено игнорирование рязрядов в $views при Device = Mobile
    • Shop::Ebay - исправлены ошибки в парсинге цифровых значений
    • Shop::Aliexpress - исправлены ошибки парсинга $shipping_price и $sold_count
    • Исправлена работа tools.task.id в формате результата
    • Исправлена ошибочная возможность перезаписать default пресет настроек
    • Исправлена проблема зависания регулярных выражений в Parse custom result
    • Исправлена ошибка вызова Social::TikTok:: Profile в JS парсере

    [​IMG]

    [​IMG]
     
  5. Обзор Premium Proxy от A-Parser (скорость, выбор локации, браузинг)

    В данном видео продемонстрирована настройка и скорость работы новых Premium прокси. Данные прокси вы можете использовать как в A-Parser, так и в браузере или в любом другом SEO-софте.


    View: https://youtu.be/YE03ehTYGFQ


    Плейлист со всеми видео уроками от DIM STUDIO

    Оставляйте комментарии и подписывайтесь на наши каналы на YouTube: A-Parser и DIM STUDIO!

    [​IMG]

    [​IMG]
     
  6. Сборник рецептов #62: проверка текстов, Markdown разметка, простой файловый сервер на базе A-Parser

    62-й сборник рецептов, в котором содержатся: парсер сервиса zerogpt для проверки текстов, пример использования Markdown разметки для генерации HTML страниц и альтернативный метод получения файлов результатов работы А-Парсера.

    ZeroGPT - проверка грамматики и орфографии, детектор искусственного интеллекта
    Парсер сервиса zerogpt.com. Поддерживается выбор режима работы с текстом: проверка грамматики и орфографии или детект искусственного интеллекта, т.е. был ли проверяемый текст сгенерирован с помощью ИИ.

    [​IMG]

    Парсер перевода Markdown разметки в HTML
    Парсер собирает выдачу Google встроенным парсером. Далее, используя заготовленный Markdown шаблон template.md, который можно легко редактировать по своему усмотрению, переводит Markdown разметку в HTML с учетом собранных результатов.

    [​IMG]

    Альтернативный метод получения файлов результатов
    Реализация простого файлового сервера на базе A-Parser. Суть примера заключается в том, чтобы по запросу на заранее известный url получить любой файл из папки results.
    В качестве кейсов применения можно рассматривать любые задачи, в которых требуется получать прямой доступ к файлам результатов и при этом имена файлов заранее известны. Например: с помощью Планировщика периодически запускаются несколько заданий, которые пишут результаты в файлы со статическими именами. И с помощью данного пресета можно легко и в любое время получить эти файлы.


    Еще больше различных рецептов в нашем Каталоге!
    Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

    Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

    Все сборники рецептов

    [​IMG]

    [​IMG]
     
  7. Обновленные пресеты в каталоге A-Parser

    Обновление пресетов в Каталоге примеров A-Parser

    Парсер корейского поисковика Daum.net
    Парсер собирает данные (ссылки, анкоры, сниппеты и связанные ключевые слова) из поисковой выдачи корейской поисковой системы daum.net.
    • Парсер переписан на TypeScript (JS APIv2)
    • Обновлены регулярные выражения, исправлена работа в целом
    • Убран totalcount, т.е. его больше нету в выдаче
    Парсер BuiltWith.com. История IP-адресов и взаимосвязи
    Сбор истории IP-адресов по домену и других веб-сайтов, которые имеют общие IP-адреса с искомым доменом.
    • Убрана опция разгадывания капчи, т.к. теперь данные видны после авторизации и капчи там не видно
    • Добавлена авторизация по логину и паролю
    Анализ ключевых слов на seranking.com
    Парсер для анализа ключевых слов с помощью сервиса seranking.com. Собираемые данные: частотность, стоимость клика, конкуренция, сложность, списки похожих ключевых слов, связанных ключевых слов, вопросов и ссылок органического трафика. В настройках доступен выбор источника (страна и поисковая система).
    • Исправлена работа с каптчей
    • Добавлена проверка выбора пресета Util::ReCaptcha2
    • Небольшая оптимизация кода
    Оценка страниц с использованием Lighthouse
    Оценка производительности, доступности и оптимизации веб-страниц с использованием Lighthouse. В качестве источника используется сайт web.dev.
    • Адаптация к изменениям на источнике
    Еще больше различных парсеров и пресетов в нашем Каталоге!
    Присылайте свои идеи для новых парсеров сюда, самые интересные и востребованные мы обязательно реализуем!

    [​IMG]

    [​IMG]
     
  8. 1.2.2262 - новые опции во встроенных парсерах, адаптация к изменениям на источниках данных

    [​IMG]

    Улучшения
    • В [​IMG] SE::Google:
      • добавлен параметр Empty totalcount is error, детальнее тут
      • добавлен сбор тегов (массив $tags.$i.tag)
    • [​IMG] SE::Yandex - улучшен парсинг сниппета генеративного ответа
    • В парсере [​IMG] OpenAI::ChatGPT обновлены модели и добавлен параметр Another model name
    • В [​IMG] SE::Yandex::WordStat добавлена опция Wordstat 2 parse all table data, детальнее тут
    • В [​IMG] SE::YouTube::Video расширен перечень собираемых данных, детальнее тут
    • В [​IMG] SE::You добавлена возможность задавать кол-во страниц для парсинга ссылок
    • Следующие настройки перенесены из опций в параметры парсера:
    Исправления в связи с изменениями в выдаче
    Исправления
    • Исправлена проблема с отображением сохраненных заданий
    • Исправлена работа опции Collect full region в Maps::Google

    [​IMG]

    [​IMG]
     
  9. Сборник рецептов #63: конвертация Youtube видео в статьи, парсер Шедеврум, парсер Pinterest Trends

    63-й сборник рецептов, в котором содержатся: парсер для конвертации Youtube видео в полноценные HTML страницы с картинкой и текстовым описанием содержимого видео, парсер картинок из shedevrum.ai и парсер Pinterest Trends.

    Конвертация Youtube видео в HTML страницы

    Пример парсера, который, используя сервисы ИИ, создает полноценные HTML страницы, содержащие тематическую картинку и текст с разметкой, который дублирует содержание видео. На иллюстрации для примера показана статья, сгенерированная по нашему недавнему видео о Premium прокси.

    [​IMG]

    Парсер картинок с Шедеврум с дополнительными данными

    Парсер картинок с дополнительными данными по ключевым словам из сервиса shedevrum.ai. Можно парсить ссылки на картинки, prompt'ы по которым генерировались эти картинки, описание и т.д.

    [​IMG]

    Парсер Pinterest Trends

    Сбор данных о трендах в Pinterest по ключевым словам с возможностью выбора региона и даты. Собираются данные о популярности и демографии ключевого слова, а также связанные ключевые слова и популярные пины.

    [​IMG]


    Еще больше различных рецептов в нашем Каталоге!
    Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

    Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

    Все сборники рецептов

    [​IMG]

    [​IMG]
     
  10. Обновленные пресеты в каталоге A-Parser

    Обновление пресетов в Каталоге примеров A-Parser

    Генерация картинок ruDALL-E
    Генерация картинок по текстовым запросам через нейросеть ruDALL-E. Присутствует возможность выбирать модель и стиль генерации.
    • Добавлена опция Save image, позволяет отключить сохранение изображения в файл, по-умолчанию включена
    • Изображение теперь доступно в переменной $data
    Парсинг отзывов Google Play Market
    Данный парсер собирает комментарии (ссылка на аватар, рейтинг и имя юзера, а также текст отзыва) к приложению в Google Play Market.
    • Исправлен парсинг
    • Парсер переписан на TS (API v2)
    • Добавлена возможность указания количества страниц парсинга
    Naver Ads
    Парсер рекламных объявлений из Naver по ключевым словам с возможностью указать количество страниц парсинга.
    • Исправлен сбор всех результатов
    • Адаптация к изменениям на источнике
    JS::TextFromSE
    Объединение парсера поисковой выдачи и парсера текста в одном JS парсере на примере решения задачи по парсингу текстов.
    • Парсер переписан на TypeScript API v2
    Парсер Aliexpress товаров
    Парсер, позволяющий получить информацию о товаре на Aliexpress, подавая на запрос ссылку на товар.
    • Адаптация к изменениям на источнике
    • $delivery теперь массив
    • $formattedQuery был удален
    • Вместо $html исходный код страницы сохраняется в $data
    Еще больше различных парсеров и пресетов в нашем Каталоге!
    Присылайте свои идеи для новых парсеров сюда, самые интересные и востребованные мы обязательно реализуем!

    [​IMG]

    [​IMG]
     
  11. Сборник статей #18: вывод в CSV, парсинг номеров телефонов, обзор Collect full region в Maps::Google

    Представляем 18-й сборник статей, в который вошли статья о выводе результатов в CSV таблицы, статья об универсальном парсинге номеров телефонов и статья с обзором функции Collect full region парсера Google Maps.

    Всё о выводе результатов в CSV (табличное представление результатов)
    Табличное представление результатов - это очень популярный вид форматирования данных, собираемых А-Парсером. И чаще всего для этого используется именно формат CSV. В этой статье описаны все варианты и нюансы работы с CSV в контексте A-Parser. А также рассказано чем и как правильно обрабатывать CSV файлы.

    [​IMG]

    Универсальный парсер телефонов
    Как известно, номера телефонов проблематично парсить из-за отсутствия единого формата их записи. В этой статье мы поделимся одним из методов универсального парсинга номеров телефонов, а также заодно покажем как можно использовать npm модули без написания JS парсеров.

    [​IMG]

    Детальный обзор Collect full region в Maps::Google
    Детальное описание функции Collect full region в парсере Google Карт, варианты ее настройки, рекомендации для наибольшей производительности и сравнение скорости работы парсера на разных прокси.

    [​IMG]

    Если вы хотите, чтобы мы более подробно раскрыли какой-то функционал парсера, у вас есть идеи для новых статей или вы желаете поделиться собственным опытом использования A-Parser - отписывайтесь здесь.

    Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

    Все сборники статей

    [​IMG]

    [​IMG]
     
  12. 1.2.2306 - новый парсер подсказок Google Trends, новые опции в существующих парсерах, исправления

    [​IMG]

    Улучшения
    • Добавлен новый парсер [​IMG] SE::Google::Trends::Suggest - сбор подсказок Google Trends
    • Улучшена очистка ссылок в [​IMG] SE::Bing
    • В парсер [​IMG] DeepL::Write добавлен выбор стиля и тональности, а также возможность использовать режим исправления
    • В [​IMG] SE::Yandex добавлен вывод "пропущенных слов"
    • В [​IMG] Rank::MajesticSEO добавлен параметр Additional headers for requests without Chrome, который позволяет задать заголовки для запросов без без браузера
    • В [​IMG] SE::Yandex::WordStat::ByDate добавлена поддержка нового Wordstat 2
    • В [​IMG] SE::Yandex::Register добавлена новая опция OnlineSIM domain которая дает возможность указать домен который будет использоваться в API запросах к OnlineSIM
    Исправления в связи с изменениями в выдаче
    Исправления
    • Исправлены падения парсера при использовании определенных запросов в HTML::EmailExtractor
    • Исправлена работа повторных попыток для получения robots.txt в Check::BackLink
    • Исправлен режим Bulk mode в парсерах SE::Google::KeywordPlanner::*
    [​IMG]

    [​IMG]
     
  13. Видео урок: поиск Телеграм каналов через Google и их сортировка

    2 новых видео урока по работе с A-Parser от DIM STUDIO в которых показан способ поиска Телеграм каналов через поиск в Google и сортировка собранных каналов.





    Плейлист со всеми видео уроками от DIM STUDIO

    Оставляйте комментарии и подписывайтесь на наши каналы на YouTube: A-Parser и DIM STUDIO!

    [​IMG]

    [​IMG]
     

Поделиться этой страницей