عدم تسلط به مفاهیم پایه

فکر می‌کنید سخت‌ترین قسمت Data Scrapping چیست؟

ایجاد آبجکت request و ارسال آن به سرور؟
حفظ ViewState؟
login کردن به سایت راه دور؟
دریافت و نگهداری cookie؟
مسائل DNS؟
ور رفتن با استرینگ‌ها، استخراج دیتا، Regex و XPath؟
مسائل Encoding؟

نه اشتباه می‌کنید! برای من سخت‌ترین قسمت کار، بحث Stream بود. چند جا کار متوقف شد. ابتدا فکر کردم مشکل از نحوه کار با Request/Response یا Cookie است. کلی هم وقت تلف کردم ولی دست آخر فهمیدم مشکل از عدم استفاده صحیح از Stream بوده. مثلاً نبستن یک stream. این قضیه برای چند صدمین بار به من ثابت کرد که عدم تسلط به بعضی مفاهیم پایه چقدر می‌تواند مشکل ساز باشد.