Network
Генерирует llms.txt (формат llmstxt.org v2: H1, краткая цитата, списки H2) из живого обхода или вставленного перечня страниц и аудирует политику robots.txt для GPTBot, ClaudeBot, PerplexityBot и Bytespider по алгоритму RFC 9309 — с превью allow/block и готовыми директивами.
Вызовите этот инструмент из своего кода на трёх языках.
curl -X POST 'http://127.0.0.1:3003/ru/api/tools/llms-txt-and-ai-crawler-audit' \
-H 'Content-Type: application/json' \
-d '{"siteUrl":"https://example.com — homepage links, plus sitemap.xml fallback for JS-rendered sites (max 25 pages)","pagesInput":"\nhttps://example.com/docs/quickstart | Quickstart | Install the CLI and run your first job\nhttps://example.com/docs/api | API Reference | Endpoint catalog with auth examples\nhttps://example.com/blog/cli-tips | CLI Tips | Twenty shortcuts for daily use\nhttps://example.com/blog/release-2026 | Release 2026 | What changed this quarter","robotsInput":"User-agent: GPTBot\nDisallow: /\n\nUser-agent: ClaudeBot\nDisallow:\n\nUser-agent: *\nDisallow: /private/","siteName":"Example Platform Docs","summary":"Example Platform lets teams ship scheduled data jobs without infrastructure.","extraNotes":"All endpoints require an API key; the quickstart covers sandbox setup.","grouping":"auto"}'Отправьте POST-запрос с входными данными в JSON. Параметры типа «файл» требуют предварительной загрузки.
POST http://127.0.0.1:3003/ru/api/tools/llms-txt-and-ai-crawler-audit| Имя | Тип | Обязательный | Описание |
|---|---|---|---|
| siteUrl | text | Нет | — |
| pagesInput | textarea | Нет | — |
| robotsInput | textarea | Нет | — |
| siteName | text | Нет | — |
| summary | text | Нет | — |
| extraNotes | textarea | Нет | — |
| grouping | select | Да | — |
HTML-результат
{
"result": "<div>Processed HTML content</div>",
"error": "Error message (optional)",
"message": "Notification message (optional)",
"metadata": {
"key": "value"
}
}Добавьте этот инструмент на свой сервер Model Context Protocol, чтобы ИИ-агенты могли перечислять и вызывать его.
Добавьте этот блок в конфигурацию вашего MCP-клиента:
{
"mcpServers": {
"elysiatools-llms-txt-and-ai-crawler-audit": {
"name": "llms-txt-and-ai-crawler-audit",
"description": "Генерирует llms.txt (формат llmstxt.org v2: H1, краткая цитата, списки H2) из живого обхода или вставленного перечня страниц и аудирует политику robots.txt для GPTBot, ClaudeBot, PerplexityBot и Bytespider по алгоритму RFC 9309 — с превью allow/block и готовыми директивами.",
"baseUrl": "http://127.0.0.1:3003/mcp/sse?toolId=llms-txt-and-ai-crawler-audit",
"command": "",
"args": [],
"env": {},
"isActive": true,
"type": "sse"
}
}
}После подключения к SSE-endpoint выведите список доступных инструментов:
{
"jsonrpc": "2.0",
"id": 1,
"method": "tools/list"
}Вызовите инструмент по его id; аргументы формируются из его параметров:
{
"jsonrpc": "2.0",
"id": 2,
"method": "tools/call",
"params": {
"name": "llms-txt-and-ai-crawler-audit",
"arguments": {
"siteUrl": "https://example.com — homepage links, plus sitemap.xml fallback for JS-rendered sites (max 25 pages)",
"pagesInput": "\nhttps://example.com/docs/quickstart | Quickstart | Install the CLI and run your first job\nhttps://example.com/docs/api | API Reference | Endpoint catalog with auth examples\nhttps://example.com/blog/cli-tips | CLI Tips | Twenty shortcuts for daily use\nhttps://example.com/blog/release-2026 | Release 2026 | What changed this quarter",
"robotsInput": "User-agent: GPTBot\nDisallow: /\n\nUser-agent: ClaudeBot\nDisallow:\n\nUser-agent: *\nDisallow: /private/",
"siteName": "Example Platform Docs",
"summary": "Example Platform lets teams ship scheduled data jobs without infrastructure.",
"extraNotes": "All endpoints require an API key; the quickstart covers sandbox setup.",
"grouping": "auto"
}
}
}Вопросы или проблемы? Свяжитесь с [email protected]