llm-html

CMDOP Skill — zainstaluj i używaj za pomocą agenta CMDOP:

Bash

cmdop-skill install llm-html

cmdop-skill use llm-html

Loading code...

Optymalizacja LLM dla czyszczenia HTML: ekstrakcja hydratacji, budżety tokenów, różne formaty wyjściowe.

Instalacja

Bash

cmdop-skill install llm-html

Loading code...

Szybki Start

Python

from llm_html import HTMLCleaner, CleanerConfig, OutputFormat

# Podstawowe czyszczenie

cleaner = HTMLCleaner()
result = cleaner.clean(html)
print(f"Redukcja: {result.stats.reduction_percent}%")

# Hydratacja pierwsza (ekstrakcja danych SSR z Next.js, Nuxt, itp.)
if result.hydration_data:
    data = result.hydration_data
else:
    cleaned = result.html

Loading code...

Funkcje ułatwiające

Python

from llm_html import clean, clean_to_json, clean_html, clean_for_llm

# Szybkie czyszczenie
result = clean(html)

# Pobierz JSON, jeśli dostępne są dane SSR, w przeciwnym razie czyszczony HTML
data = clean_to_json(html)

# Płynność z pełnym kontrolą
result = clean_html(html, max_tokens=5000)
result = clean_for_llm(html, output_format="markdown")

Loading code...

Formaty wyjściowe

Python

from llm_html import to_markdown, to_aom_yaml, to_xtree

md = to_markdown(html)
aom = to_aom_yaml(html)
xtree = to_xtree(html)

Loading code...

Downsampling

Celem jest docelowo osiągnięcie budżetu tokenów z algorytmem D2Snap:

Python

from llm_html import downsample_html, estimate_tokens

tokens = estimate_tokens(html)
if tokens > 10000:
    html = downsample_html(html, target_tokens=8000)

Loading code...

Chunkowanie semantyczne

Rozdziel duże strony na chunki LLM:

Python

from llm_html import SemanticChunker, ChunkConfig

config = ChunkConfig(max_tokens=8000, max_items=20)
chunker = SemanticChunker(config)
result = chunker.chunk(soup)
for chunk in result.chunks:
    process(chunk.html)

Loading code...

Shadow DOM

Flattening Web Components dla widoczności LLM:

Python

from llm_html import flatten_shadow_dom

flat = flatten_shadow_dom(html)

Loading code...

Pomocnicze funkcje

Python

from llm_html import html_to_text, extract_links, extract_images, json_to_toon

text = html_to_text(html)
links = extract_links(html, base_url="https://example.com")
images = extract_images(html)
toon = json_to_toon({"key": "value"})

Loading code...

Licencja

MIT

Bash

cmdop-skill install llm-html

cmdop-skill use llm-html

Bash

cmdop-skill install llm-html

Python

from llm_html import HTMLCleaner, CleanerConfig, OutputFormat

# Podstawowe czyszczenie

cleaner = HTMLCleaner()
result = cleaner.clean(html)
print(f"Redukcja: {result.stats.reduction_percent}%")

# Hydratacja pierwsza (ekstrakcja danych SSR z Next.js, Nuxt, itp.)
if result.hydration_data:
    data = result.hydration_data
else:
    cleaned = result.html

Python

from llm_html import clean, clean_to_json, clean_html, clean_for_llm

# Szybkie czyszczenie
result = clean(html)

# Pobierz JSON, jeśli dostępne są dane SSR, w przeciwnym razie czyszczony HTML
data = clean_to_json(html)

# Płynność z pełnym kontrolą
result = clean_html(html, max_tokens=5000)
result = clean_for_llm(html, output_format="markdown")

Python

from llm_html import to_markdown, to_aom_yaml, to_xtree

md = to_markdown(html)
aom = to_aom_yaml(html)
xtree = to_xtree(html)

Python

from llm_html import downsample_html, estimate_tokens

tokens = estimate_tokens(html)
if tokens > 10000:
    html = downsample_html(html, target_tokens=8000)

Python

from llm_html import SemanticChunker, ChunkConfig

config = ChunkConfig(max_tokens=8000, max_items=20)
chunker = SemanticChunker(config)
result = chunker.chunk(soup)
for chunk in result.chunks:
    process(chunk.html)

Python

from llm_html import flatten_shadow_dom

flat = flatten_shadow_dom(html)

Python

from llm_html import html_to_text, extract_links, extract_images, json_to_toon

text = html_to_text(html)
links = extract_links(html, base_url="https://example.com")
images = extract_images(html)
toon = json_to_toon({"key": "value"})

llm-html

llm-html

Instalacja

Szybki Start

Funkcje ułatwiające

Formaty wyjściowe

Downsampling

Chunkowanie semantyczne

Shadow DOM

Pomocnicze funkcje

Licencja

Recenzje