Was ist Mean Pooling über die Tokens?

In meinem vorigen Blog Post bin ich über die Dimension des Vektors gestolpert.  Statt 768 wie aus Ollama generiert waren es plötzlich 3072. Da vierfache, wie mir nach einigen Überlegen aufgefallen ist. Also nocheinmal ein Blick in das ONNX Modell per Netron Da stehts, 768. Der Fehler sitzt v... [Mehr]

Erzeug mir doch ein Token, Vektor, Tensor

Für meinen Anwendungsfall, vorhandene Issue Einträge zu vergleichen, will ich nun auf eine in Memory Lösung wechseln. Da das wesentlich komplexer ist, trenne ich die Blogartikel und fokussiere mich auf das Tokenize des Textes. Das ist der Vorgang der ein Dokument, Satz und sogar Wort so zerlegt das ... [Mehr]

Ähnliche Sätze finden mit Embeddings

Es muss nicht immer ein großes LLM sein und schon gar nicht ein API Call in weite Ferne eines Cloud Anbieters, Mein Interesse gilt, wie ich AI lokal betreiben kann. Die Aufgabe: ein Issue Tracker soll bereits erfasste Problemfälle als Liste vorschlagen um doppelte Erfassung zu verhindern, Der Ansa... [Mehr]

OCR mit Webforms und tiny LLM

Auf den ppedv Websites gibt es eine Stelle an der Lieferanten ihre Rechnungen hoch laden können. Dahinter verbirgt sich bei uns ein einfacher Workflow der Zahlungsdaten generieren kann. Seit langer Zeit hadere ich mit PDF und Texterkennung. Die einfache Frage, Wie lautet die IBAN? ist per OCR nich... [Mehr]

FriendlyUrl ASP.NET Handler

Eigentlich ärgere ich mich gerade über LinkedIn. Genauer gesagt über den Social Image Preview der gecached wird, wenn man einen Post erstellt. Dazu nutze ich nun einen ASHX Handler der ein passendes Bild auf Zuruf zur jeweiligen Unterseite generiert. In einer HTML (oder hier Webforms) Page muss per... [Mehr]

JSON-Daten als Strings in C#: @, $@ und $$ im Vergleich

Vor Ewigkeiten konnte man sich als VB Entwickler an XML Literals erfreuen. Zeichenketten Mehrzeilig und dann auch noch mit Variablen bestückbar. JSON (JavaScript Object Notation) ist ein beliebtes Format zur Datenübertragung, und in C# gibt es mehrere Ansätze, um JSON-Daten als String zu erstellen... [Mehr]

SSR Renderung und Seiteneffekte ohne Ende

Aktuell stelle ich eine Blazor 8 Anwendung auf 9 um und erlebe einen seltsamen Effekt nach dem anderen. Vermutlich bin ich an die Grenzen von Static Rendering im Mix mit Server Interactive Rendering gegangen. Begonnen haben meinen Probleme damit, das der HttpContext nicht mehr korrekt gefüllt wur... [Mehr]

Function Calling mit Semantic Kernel

Meiner Meinung nach sollte jedes versendete Email 1 Cent kosten und dafür die absurden Regeln bezüglich Spam fallen. Das haben sich Microsoft und andere Cloud Anbieter auch gedacht. Weil aber die Rechenzentrum leer liefen, hat man sich einen Workload gesucht und in AI gefunden. Sicherheitshalber bei... [Mehr]

Blazor SSR File Upload

Vor Jahren habe ich schon einmal getestet, wie sich Datei Upload verhält im Vergleich Blazor vs HTML Form. Damals hat ganz klar klassischer HTTP POST per Multipart Formdata gewonnen. Um Faktor 20 und mehr. Eine Datei in 32,5KB Stücken zerhacken und per Websocket zu übertragen ist einen HTTP Post ein... [Mehr]

ganz schön lax der Keks- Samesite Cookies

Wir haben eine System laufen bei dem ein Cookie auf ppedv.de gesetzt wird. Über eine Image Src nutzen wir den Cookie von all unseren Seiten um ein gewisses Tracking sicher zu stellen. Dahinter steckt ein Empfehlungsprogramm. Jedenfalls eines Tages fiel auf, das klappt nicht mehr. Wir sind über di... [Mehr]