Computer >> บทช่วยสอนคอมพิวเตอร์ >  >> ซอฟต์แวร์ >> ซอฟต์แวร์

Web Scraping: วิธีดึงข้อมูลจากเว็บไซต์ 8 วิธี

Web Scraping ใช้ในทุกอุตสาหกรรม ดึง/วิเคราะห์ข้อมูลจากอินเทอร์เน็ต บริษัทใช้ข้อมูลวางแผนธุรกิจ/ผลิตภัณฑ์ ข้อมูลคุณมีค่า หากไม่ปกป้อง บริษัทกำลังใช้ข้อมูลคุณสร้างรายได้

ธุรกิจใหญ่ทำได้ ทำไมคุณไม่ทำ? เรียนรู้ Scraping ช่วยหา Deal ดี, Sales Leads, หางาน

1. ใช้บริการ Web Scraping แบบมืออาชีพ

ดึงข้อมูลปริมาณมาก: Scrapinghub (Large scale, ใช้ง่าย)

สเกลเล็ก: ParseHub ฟรี 200 หน้า ไม่ต้องบัตรเครดิต ขยายได้

2. Web Scraper Chrome Extension

ฟรี สะดวก เรียนรู้มีคำแนะนำ/วิดีโอดี เหมาะดึงข้อมูลสเกลเล็ก Free tier ให้มากกว่าคู่แข่ง

3. ใช้ Microsoft Excel Scraping

Excel มีฟีเจอร์ built-in: Data Tab > From Web ตาม Wizard บันทึกลง Spreadsheet ดูรายละเอียดในคู่มือ Excel Scraping

4. ใช้ Scrapy Python Library

รู้ Python? Scrapy สร้าง "Spiders" 爬เว็บดึงข้อมูล ใช้ในโปรแกรม/Export ไฟล์

Tutorial ครอบคลุม Basic ถึง Multi-spider Scheduled scraping ทักษะ Scrapy = โอกาสอาชีพ Developer

5. ใช้ Beautiful Soup Python Library

Beautiful Soup = Python Library Scraping เก่ากว่า Scrapy ใช้ง่ายกว่า ไม่ได้ฟีเจอร์เต็ม แต่เพียงพอสำหรับ Python Developer ส่วนใหญ่

6. ใช้ Web Scraping API

เขียนโค้ดเอง แต่รัน Local → Bandwidth ใช้มากตอน Scale up

API ย้ายงานไป Server Remote: Dexi (Full-featured, ราคาสูง), ScraperAPI (Simple, 1000 Free API calls)

7. ใช้ IFTTT Scraping

IFTTT = Automation Tool ทำได้เกือบหมด รวม Scraping

เชื่อมบริการเยอะ ตัวอย่าง Twitter → Google Sheets:

  1. IFTTT > Create > Twitter > New Search From Tweet
  2. ใส่ Search term/Hashtag > Create Trigger
  3. Action: Google Sheets > Add Row to Spreadsheet
  4. Create Action

ได้ Service บันทึก Tweet ที่ค้นหาเจอ + Username + เวลา อัตโนมัติ

8. Siri Shortcuts App (iOS)

Shortcuts App เชื่อม/อัตโนมัติชีวิตดิจิทัล ไปกว่า Calendar/Contacts/Maps

Reddit u/keveridge สอนใช้ Regular Expressions กับ Shortcuts ดึงข้อมูลรายละเอียดจากเว็บ

9. Tasker (Android)

Android ไม่มี Tool Scraping ง่าย ใช้ IFTTT ได้ แต่ Tasker ($3.50 Play Store) อาจดีกว่า

Tasker = IFTTT พี่ใหญ่ ฟีเจอร์มาก: Custom Web Search, Alert เมื่อเว็บเปลี่ยน, ดาวน์โหลดจาก Twitter

ไม่ใช่ Scraping แบบดั้งเดิม แต่ Automation App ทำหน้าที่คล้ายเครื่องมือมืออาชีพ โดยไม่ต้องเขียนโค้ด/จ่ายบริการ

สรุป: Web Scraping ทักษะคุ้มค่า

ไม่ว่าจะเก็บข้อมูลธุรกิจ หรือทำให้ชีวิตสะดวก Scraping คุ้มค่าที่จะเรียน ข้อมูลที่ได้ จัดเรียบแล้ว = Insight ลึกซึ้งสำหรับคุณ/เพื่อน/ลูกค้า