Tools
Firecrawl
OpenClaw Firecrawl का उपयोग तीन तरीकों से कर सकता है:
web_searchप्रदाता के रूप में- स्पष्ट Plugin टूल के रूप में:
firecrawl_searchऔरfirecrawl_scrape web_fetchके लिए फ़ॉलबैक एक्सट्रैक्टर के रूप में
यह एक होस्ट की गई एक्सट्रैक्शन/सर्च सेवा है, जो बॉट अवरोध से बचने और कैशिंग का समर्थन करती है। इससे JS-प्रधान साइटों या साधारण HTTP फ़ेच को ब्लॉक करने वाले पेजों पर मदद मिलती है।
Plugin इंस्टॉल करें
आधिकारिक Plugin इंस्टॉल करें, फिर Gateway रीस्टार्ट करें:
openclaw plugins install @openclaw/firecrawl-pluginopenclaw gateway restartबिना कुंजी की पहुँच और API कुंजियाँ
Firecrawl दो web_search प्रदाता पंजीकृत करता है:
- Firecrawl Search (
firecrawl) — आपकी कुंजी के साथ होस्ट किए गए/v2/searchAPI का उपयोग करता है; कुंजी मौजूद होने पर स्वतः पहचाना जाता है। - Firecrawl Search (Free) (
firecrawl-free) — होस्ट किए गए बिना-कुंजी वाले स्टार्टर टियर का उपयोग करता है; API कुंजी आवश्यक नहीं है। यह केवल ऑप्ट-इन है और कभी स्वतः नहीं चुना जाता, क्योंकि इसे चुनने पर आपकी सर्च क्वेरी Firecrawl के मुफ़्त टियर को भेजी जाती हैं।
स्पष्ट रूप से चुना गया Firecrawl web_fetch फ़ॉलबैक भी बिना कुंजी के काम करता है। स्पष्ट firecrawl_search और firecrawl_scrape टूल के लिए API कुंजी आवश्यक है। अधिक सीमाओं के लिए Gateway परिवेश में FIRECRAWL_API_KEY जोड़ें या इसे कॉन्फ़िगर करें।
Firecrawl सर्च कॉन्फ़िगर करें
{ tools: { web: { search: { provider: "firecrawl", }, }, }, plugins: { entries: { firecrawl: { enabled: true, config: { webSearch: { apiKey: "FIRECRAWL_API_KEY_HERE", baseUrl: "https://api.firecrawl.dev", }, }, }, }, },}नोट्स:
- ऑनबोर्डिंग या
openclaw configure --section webमें Firecrawl चुनने पर इंस्टॉल किया गया Firecrawl Plugin स्वतः सक्षम हो जाता है। - API कुंजी के बिना चलाने के लिए ऑनबोर्डिंग में Firecrawl Search (Free) चुनें (या
provider: "firecrawl-free"सेट करें)। कुंजी वाला Firecrawl Search प्रदाताplugins.entries.firecrawl.config.webSearch.apiKeyयाFIRECRAWL_API_KEYभेजता है। - Firecrawl के साथ
web_search,queryऔरcountका समर्थन करता है। sources,categories, या परिणाम स्क्रैपिंग जैसे Firecrawl-विशिष्ट नियंत्रणों के लिएfirecrawl_searchका उपयोग करें।baseUrlका डिफ़ॉल्टhttps://api.firecrawl.devपर होस्ट किया गया Firecrawl है। स्वयं होस्ट किए गए ओवरराइड केवल निजी/आंतरिक एंडपॉइंट के लिए अनुमत हैं; HTTP केवल उन निजी लक्ष्यों के लिए स्वीकार किया जाता है।FIRECRAWL_BASE_URL, Firecrawl सर्च और स्क्रैप के बेस URL के लिए साझा परिवेश फ़ॉलबैक है।- Firecrawl सर्च अनुरोधों का डिफ़ॉल्ट टाइमआउट 30 सेकंड है;
firecrawl_searchकाtimeoutSecondsपैरामीटर प्रत्येक कॉल के लिए इसे ओवरराइड करता है।
Firecrawl web_fetch फ़ॉलबैक कॉन्फ़िगर करें
{ tools: { web: { fetch: { provider: "firecrawl", // स्पष्ट चयन बिना-कुंजी वाला फ़ॉलबैक सक्षम करता है }, }, }, plugins: { entries: { firecrawl: { enabled: true, config: { webFetch: { baseUrl: "https://api.firecrawl.dev", onlyMainContent: true, maxAgeMs: 172800000, timeoutSeconds: 60, }, }, }, }, },}नोट्स:
- स्पष्ट रूप से चुना गया Firecrawl
web_fetchफ़ॉलबैक API कुंजी के बिना काम करता है। कॉन्फ़िगर होने पर OpenClaw अधिक सीमाओं के लिएplugins.entries.firecrawl.config.webFetch.apiKeyयाFIRECRAWL_API_KEYभेजता है। - ऑनबोर्डिंग या
openclaw configure --section webके दौरान Firecrawl चुनने पर Plugin सक्षम होता है औरweb_fetchके लिए Firecrawl चुना जाता है, जब तक कि कोई अन्य फ़ेच प्रदाता पहले से कॉन्फ़िगर न हो। firecrawl_scrapeके लिए API कुंजी आवश्यक है।maxAgeMsयह नियंत्रित करता है कि कैश किए गए परिणाम कितने पुराने हो सकते हैं (ms)। डिफ़ॉल्ट 172,800,000 ms (2 दिन) है।onlyMainContentका डिफ़ॉल्टtrueहै;timeoutSecondsका डिफ़ॉल्ट 60 है।- पुराने
tools.web.fetch.firecrawl.*औरtools.web.search.firecrawl.*कॉन्फ़िगरेशन कोopenclaw doctor --fixद्वारा स्वतः माइग्रेट किया जाता है। - Firecrawl स्क्रैप/बेस URL ओवरराइड सर्च के समान होस्टेड/निजी नियम का पालन करते हैं: सार्वजनिक होस्टेड ट्रैफ़िक
https://api.firecrawl.devका उपयोग करता है; स्वयं होस्ट किए गए ओवरराइड को निजी/आंतरिक एंडपॉइंट पर रिज़ॉल्व होना चाहिए। firecrawl_scrape, Firecrawl को अग्रेषित करने से पहले स्पष्ट निजी, लूपबैक, मेटाडेटा और गैर-HTTP(S) लक्ष्य URL अस्वीकार करता है, जो स्पष्ट Firecrawl स्क्रैप कॉल केweb_fetchलक्ष्य-सुरक्षा अनुबंध से मेल खाता है।
firecrawl_scrape उन्हीं plugins.entries.firecrawl.config.webFetch.* सेटिंग और परिवेश वेरिएबल का पुनः उपयोग करता है, जिसमें इसकी आवश्यक API कुंजी भी शामिल है।
स्वयं होस्ट किया गया Firecrawl
Firecrawl को स्वयं चलाते समय plugins.entries.firecrawl.config.webSearch.baseUrl, plugins.entries.firecrawl.config.webFetch.baseUrl, या FIRECRAWL_BASE_URL सेट करें। OpenClaw केवल लूपबैक, निजी नेटवर्क, .local, .internal, या .localhost लक्ष्यों के लिए http:// स्वीकार करता है। सार्वजनिक कस्टम होस्ट अस्वीकार किए जाते हैं, ताकि Firecrawl API कुंजियाँ गलती से मनमाने एंडपॉइंट को न भेजी जाएँ।
Firecrawl Plugin टूल
firecrawl_search
जब सामान्य web_search के बजाय Firecrawl-विशिष्ट सर्च नियंत्रण चाहिए, तो इसका उपयोग करें। API कुंजी आवश्यक है।
पैरामीटर:
querycount(1-100)sourcescategoriesincludeDomains/excludeDomains(केवल होस्टनेम; परस्पर अनन्य)tbs(समय फ़िल्टर, उदाहरण के लिएqdr:d,qdr:w,sbd:1)locationऔरcountry(भौगोलिक लक्ष्यीकरण)scrapeResultstimeoutSeconds
firecrawl_scrape
इसका उपयोग उन JS-प्रधान या बॉट-संरक्षित पेजों के लिए करें, जहाँ साधारण web_fetch कमज़ोर पड़ता है।
पैरामीटर:
urlextractModemaxCharsonlyMainContentmaxAgeMsproxystoreInCachetimeoutSeconds
स्टेल्थ / बॉट अवरोध से बचाव
firecrawl_scrape और web_fetch Firecrawl फ़ॉलबैक का डिफ़ॉल्ट proxy: "auto" के साथ storeInCache: true है, जब तक कि कॉलर उन पैरामीटर को ओवरराइड न करे। firecrawl_search और web_search Firecrawl प्रदाता में proxy/storeInCache नियंत्रण नहीं हैं; स्टेल्थ प्रॉक्सी मोड केवल स्क्रैप/फ़ेच अनुरोधों पर लागू होता है।
Firecrawl का proxy मोड बॉट अवरोध से बचाव (basic, stealth, या auto) नियंत्रित करता है। यदि सामान्य प्रयास विफल हो जाता है, तो auto स्टेल्थ प्रॉक्सी के साथ पुनः प्रयास करता है, जिसमें केवल सामान्य स्क्रैपिंग की तुलना में अधिक क्रेडिट लग सकते हैं।
web_fetch Firecrawl का उपयोग कैसे करता है
web_fetch एक्सट्रैक्शन क्रम:
- Readability (स्थानीय)
- कॉन्फ़िगर किया गया फ़ेच प्रदाता, जैसे Firecrawl (चुने जाने पर, या कॉन्फ़िगर किए गए क्रेडेंशियल से स्वतः पहचाने जाने पर)
- मूल HTML सफ़ाई (अंतिम फ़ॉलबैक)
चयन सेटिंग tools.web.fetch.provider है। इसे छोड़ने पर OpenClaw उपलब्ध क्रेडेंशियल से पहले तैयार वेब-फ़ेच प्रदाता को स्वतः पहचानता है। आधिकारिक Firecrawl Plugin वह फ़ॉलबैक प्रदान करता है।
संबंधित
- वेब सर्च का अवलोकन -- सभी प्रदाता और स्वतः पहचान
- वेब फ़ेच -- Firecrawl फ़ॉलबैक वाला web_fetch टूल
- Tavily -- सर्च + एक्सट्रैक्ट टूल