1. Сегодня стартовали новогоднюю распродажу наших курсов! Подробности можно узнать в тут.
    Скрыть объявление

A-Parser 1.2 - продвинутый парсер поисковых систем, Whois, DMOZ, Alexa, и еще 85+ сервисов

Тема в разделе "Открытый форум - все-все-все", создана пользователем A-Parser Support, 21 май 2020.

  1. Сборник статей #17: поиск и привлечение аудитории в Instagram, сбор баз сайтов на заданных движках

    Представляем 17-й сборник статей, в который вошли статья о поиске и привлечении целевой аудитории в Instagram и статья о сборе баз сайтов на определенных движках.

    Instagram - сбор пользователей, автоматическая отправка сообщений собранным пользователям в direct

    В статье рассмотрен сбор целевой аудитории и привлечение её в наш инстаграм магазин с помощью автоматической рассылки в Direct.

    [​IMG]

    Как спарсить WordPress сайты (и не только) через A-Parser

    В этой статье показано как собрать сайты на движке WordPress через A-Parser с минимальным количеством мусора в виде других движков. Кроме того данный подход можно использовать для сбора баз на любых движках.

    [​IMG]

    Если вы хотите, чтобы мы более подробно раскрыли какой-то функционал парсера, у вас есть идеи для новых статей или вы желаете поделиться собственным опытом использования A-Parser (за небольшие плюшки :)) - отписывайтесь здесь.

    Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

    Все сборники статей

    [​IMG]

    [​IMG]
     
  2. Обновленные пресеты в каталоге A-Parser

    Обновление пресетов в Каталоге примеров A-Parser

    Скриншоты выдачи поисковой системы
    Демонстрация возможности делать скриншоты страниц, получаемых другими парсерами
    • Добавлена возможность выбирать из нескольких поисковиков (Google/Яндекс/Bing, по аналогии можно добавить остальные)
    • Все результаты, получаемые от парсера поисковика, теперь перемещены в объект $p1.results (для примера реализован вывод $serp)
    • Небольшие изменения логики работы
    Парсер изображений с Flickr
    Парсинг картинок из Flickr по ключевому слову
    • Пресет переделан в JS парсер на TypeScript
    • Добавлен выбор параметров поиска: Sort, License, Color, Style
    • Добавлен параметр выбора количества страниц
    • Для каждой картинки реализована возможность парсить ссылку, заголовок, описание, владельца, количество добавлений в избранное и количество комментариев
    Анализ скорости загрузки и юзабилити сайтов
    Измерение скорости загрузки страниц, их юзабилити, получение скриншотов сайтов
    • Парсер переписан на JS API v2 (TypeScript)
    • Добавлена возможность указывать ключ API
    • Адаптация к изменениям на источнике
    NeuralWriter - перефразирование, генератор промптов, резюмирование
    Парсер сервиса neuralwriter.com
    • Добавлена поддержка разгадывания каптчи Cloudflare Turnstile - опция Util::Turnstile preset. Разгадывание капчи теперь обязательно, если тип запроса не Prompt Generator
    Google Indexing API
    Добавление или удаление страниц сайта в Google Indexing API
    • Парсер переписан на TypeScript (JavaScript API v2)
    • Добавлена возможность использовать несколько ключей
    Генерация картинок ruDALL-E
    Напишите текстовый запрос — получите сгенерированную ИИ картинку в rudalle.ru
    • Исправлена генерация с помощью старой модели (ruDALL-E Malevich)
    • Для генерации картинки старой моделью теперь не требуется подключение Util::AntiGate
    • Добавлен выбор модели, которая будет генерировать изображения, добавлена новая модель Kandinsky 3.0 (new)
    • В моделе Kandinsky 3.0 есть возможность выбрать стиль генерации изображения, доступны все стили
    Еще больше различных парсеров и пресетов в нашем Каталоге!
    Присылайте свои идеи для новых парсеров сюда, самые интересные и востребованные мы обязательно реализуем!

    [​IMG]

    [​IMG]
     
  3. Premium прокси от A-Parser

    [​IMG]
    Мы рады представить вам новые Premium прокси-серверы, которые значительно улучшат вашу работу. Ключевые преимущества Premium прокси:
    • База более 10 миллионов резидентных (домашних) IP адресов: Обеспечьте себе разнообразие и стабильность соединения с нашей обширной базой IP адресов.
    • Быстрое время отклика: Мы гарантируем высокую скорость и оптимальное время отклика, обеспечивая эффективную работу ваших парсеров.
    • Гибкая фильтрация по странам и городам: Настройте прокси под свои потребности с помощью гибкой фильтрации, чтобы получать доступ к ресурсам из конкретных стран и городов.
    • Настройки ротации: Используйте различные режимы ротации, включая случайный IP на каждый запрос, ротацию от 1 до 60 минут и режим Sticky, который сохраняет IP на максимально возможное время.
    • Подходит для браузинга и парсинга: Наши прокси идеально подходят как для браузинга, так и для парсинга, с минимальным риском CAPTCHA и банов.
    • Доступ к прокси осуществляется по логину/паролю и протоколу SOCKS5, а также может быть организован сразу с нескольких компьютеров и серверов.
    Лучшие цены на рынке: Premium прокси от $1 за гигабайт трафика.

    Для всех пользователей A-Parser доступен бесплатный триал в Личном кабинете на 1 Гб.

    [​IMG]

    [​IMG]
     
  4. 1.2.2228 - 2 новых парсера, множество улучшений и исправлений

    [​IMG]

    Улучшения
    • Добавлен парсер геолокации IP/домена - [​IMG] IP::Geo
    • Добавлен парсер для разгадывания RotateCaptcha - [​IMG] Util::RotateCaptcha
    • В [​IMG] SE::Yandex добавлен параметр Serp time
    • В парсерах [​IMG] OpenAI::Completions и [​IMG] OpenAI::ChatGPT обновлены модели
    • В парсеры SE::Google::KeywordPlanner::* добавлен флаг, указывающий на точность данных
    • В [​IMG] SecurityTrails::IP добавлена возможность парсинга с авторизацией
    • В [​IMG] Shop::Aliexpress добавлена возможность парсить старую цену и валюту
    • В [​IMG] SE::Youtube::Video добавлена возможность собирать данные о Shorts
    • Добавлено информационное сообщение при ошибке импорта JS парсера
    Исправления в связи с изменениями в выдаче
    Исправления
    • Исправлена логика работы SE:: Dogpile
    • Исправлена работа Maps::Yandex с разгадыванием каптч
    • Исправлена проблема с интерфейсом при сохранении региона в SE::Yandex
    • SE::YouTube - устранено игнорирование рязрядов в $views при Device = Mobile
    • Shop::Ebay - исправлены ошибки в парсинге цифровых значений
    • Shop::Aliexpress - исправлены ошибки парсинга $shipping_price и $sold_count
    • Исправлена работа tools.task.id в формате результата
    • Исправлена ошибочная возможность перезаписать default пресет настроек
    • Исправлена проблема зависания регулярных выражений в Parse custom result
    • Исправлена ошибка вызова Social::TikTok:: Profile в JS парсере

    [​IMG]

    [​IMG]
     
  5. Обзор Premium Proxy от A-Parser (скорость, выбор локации, браузинг)

    В данном видео продемонстрирована настройка и скорость работы новых Premium прокси. Данные прокси вы можете использовать как в A-Parser, так и в браузере или в любом другом SEO-софте.


    View: https://youtu.be/YE03ehTYGFQ


    Плейлист со всеми видео уроками от DIM STUDIO

    Оставляйте комментарии и подписывайтесь на наши каналы на YouTube: A-Parser и DIM STUDIO!

    [​IMG]

    [​IMG]
     
  6. Сборник рецептов #62: проверка текстов, Markdown разметка, простой файловый сервер на базе A-Parser

    62-й сборник рецептов, в котором содержатся: парсер сервиса zerogpt для проверки текстов, пример использования Markdown разметки для генерации HTML страниц и альтернативный метод получения файлов результатов работы А-Парсера.

    ZeroGPT - проверка грамматики и орфографии, детектор искусственного интеллекта
    Парсер сервиса zerogpt.com. Поддерживается выбор режима работы с текстом: проверка грамматики и орфографии или детект искусственного интеллекта, т.е. был ли проверяемый текст сгенерирован с помощью ИИ.

    [​IMG]

    Парсер перевода Markdown разметки в HTML
    Парсер собирает выдачу Google встроенным парсером. Далее, используя заготовленный Markdown шаблон template.md, который можно легко редактировать по своему усмотрению, переводит Markdown разметку в HTML с учетом собранных результатов.

    [​IMG]

    Альтернативный метод получения файлов результатов
    Реализация простого файлового сервера на базе A-Parser. Суть примера заключается в том, чтобы по запросу на заранее известный url получить любой файл из папки results.
    В качестве кейсов применения можно рассматривать любые задачи, в которых требуется получать прямой доступ к файлам результатов и при этом имена файлов заранее известны. Например: с помощью Планировщика периодически запускаются несколько заданий, которые пишут результаты в файлы со статическими именами. И с помощью данного пресета можно легко и в любое время получить эти файлы.


    Еще больше различных рецептов в нашем Каталоге!
    Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

    Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

    Все сборники рецептов

    [​IMG]

    [​IMG]
     
  7. Обновленные пресеты в каталоге A-Parser

    Обновление пресетов в Каталоге примеров A-Parser

    Парсер корейского поисковика Daum.net
    Парсер собирает данные (ссылки, анкоры, сниппеты и связанные ключевые слова) из поисковой выдачи корейской поисковой системы daum.net.
    • Парсер переписан на TypeScript (JS APIv2)
    • Обновлены регулярные выражения, исправлена работа в целом
    • Убран totalcount, т.е. его больше нету в выдаче
    Парсер BuiltWith.com. История IP-адресов и взаимосвязи
    Сбор истории IP-адресов по домену и других веб-сайтов, которые имеют общие IP-адреса с искомым доменом.
    • Убрана опция разгадывания капчи, т.к. теперь данные видны после авторизации и капчи там не видно
    • Добавлена авторизация по логину и паролю
    Анализ ключевых слов на seranking.com
    Парсер для анализа ключевых слов с помощью сервиса seranking.com. Собираемые данные: частотность, стоимость клика, конкуренция, сложность, списки похожих ключевых слов, связанных ключевых слов, вопросов и ссылок органического трафика. В настройках доступен выбор источника (страна и поисковая система).
    • Исправлена работа с каптчей
    • Добавлена проверка выбора пресета Util::ReCaptcha2
    • Небольшая оптимизация кода
    Оценка страниц с использованием Lighthouse
    Оценка производительности, доступности и оптимизации веб-страниц с использованием Lighthouse. В качестве источника используется сайт web.dev.
    • Адаптация к изменениям на источнике
    Еще больше различных парсеров и пресетов в нашем Каталоге!
    Присылайте свои идеи для новых парсеров сюда, самые интересные и востребованные мы обязательно реализуем!

    [​IMG]

    [​IMG]
     
  8. 1.2.2262 - новые опции во встроенных парсерах, адаптация к изменениям на источниках данных

    [​IMG]

    Улучшения
    • В [​IMG] SE::Google:
      • добавлен параметр Empty totalcount is error, детальнее тут
      • добавлен сбор тегов (массив $tags.$i.tag)
    • [​IMG] SE::Yandex - улучшен парсинг сниппета генеративного ответа
    • В парсере [​IMG] OpenAI::ChatGPT обновлены модели и добавлен параметр Another model name
    • В [​IMG] SE::Yandex::WordStat добавлена опция Wordstat 2 parse all table data, детальнее тут
    • В [​IMG] SE::YouTube::Video расширен перечень собираемых данных, детальнее тут
    • В [​IMG] SE::You добавлена возможность задавать кол-во страниц для парсинга ссылок
    • Следующие настройки перенесены из опций в параметры парсера:
    Исправления в связи с изменениями в выдаче
    Исправления
    • Исправлена проблема с отображением сохраненных заданий
    • Исправлена работа опции Collect full region в Maps::Google

    [​IMG]

    [​IMG]
     
  9. Сборник рецептов #63: конвертация Youtube видео в статьи, парсер Шедеврум, парсер Pinterest Trends

    63-й сборник рецептов, в котором содержатся: парсер для конвертации Youtube видео в полноценные HTML страницы с картинкой и текстовым описанием содержимого видео, парсер картинок из shedevrum.ai и парсер Pinterest Trends.

    Конвертация Youtube видео в HTML страницы

    Пример парсера, который, используя сервисы ИИ, создает полноценные HTML страницы, содержащие тематическую картинку и текст с разметкой, который дублирует содержание видео. На иллюстрации для примера показана статья, сгенерированная по нашему недавнему видео о Premium прокси.

    [​IMG]

    Парсер картинок с Шедеврум с дополнительными данными

    Парсер картинок с дополнительными данными по ключевым словам из сервиса shedevrum.ai. Можно парсить ссылки на картинки, prompt'ы по которым генерировались эти картинки, описание и т.д.

    [​IMG]

    Парсер Pinterest Trends

    Сбор данных о трендах в Pinterest по ключевым словам с возможностью выбора региона и даты. Собираются данные о популярности и демографии ключевого слова, а также связанные ключевые слова и популярные пины.

    [​IMG]


    Еще больше различных рецептов в нашем Каталоге!
    Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

    Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

    Все сборники рецептов

    [​IMG]

    [​IMG]
     

Поделиться этой страницей