{"id":493,"date":"2026-09-24T15:20:00","date_gmt":"2026-09-24T13:20:00","guid":{"rendered":"https:\/\/www.lukaswojcik.com\/?p=493"},"modified":"2026-09-10T10:52:50","modified_gmt":"2026-09-10T08:52:50","slug":"aufbau-einer-rag-wissensdatenbank-mit-google-cloud-vertex-ai-bigquery","status":"publish","type":"post","link":"https:\/\/www.lukaswojcik.com\/blog\/de\/cloud-ai-de\/tutorials-de-cloud-ai-de\/aufbau-einer-rag-wissensdatenbank-mit-google-cloud-vertex-ai-bigquery\/","title":{"rendered":"Aufbau einer RAG-Wissensdatenbank mit Google Cloud Vertex AI & BigQuery"},"content":{"rendered":"\r\n
Standardm\u00e4\u00dfige Large Language Models (LLMs) leiden h\u00e4ufig unter Halluzinationen und veralteten Wissensgrenzen, wenn Abfragen zu internen Unternehmenshandb\u00fcchern, propriet\u00e4ren Datenbanken oder hochspezialisierten technischen Dokumentationen erfolgen. Retrieval-Augmented Generation (RAG) \u00fcberwindet diese Einschr\u00e4nkungen, indem der Generierungsprozess fest in einem verifizierten, unternehmensspezifischen Wissensspeicher verankert wird. Die Implementierung einer serverlosen RAG-Architektur auf Basis von Google Cloud Vertex AI Embeddings und BigQuery Vector Search erm\u00f6glicht eine skalierbare semantische Suche \u00fcber Millionen von Dokumentenabschnitten ohne den Betrieb separater Vektordatenbank-Cluster.<\/p>\r\n\r\n\r\n\r\n
1. Architektur-Grundlagen: Serverless RAG auf Google Cloud<\/h2>\r\n\r\n\r\n\r\n
Eine professionelle RAG-Pipeline auf der Google Cloud entkoppelt Dokumentenaufbereitung, semantische Indexierung und Antwortgenerierung \u00fcber drei verwaltete Services:<\/p>\r\n\r\n\r\n\r\n
\r\n
Daten-Ingestion & Chunking:<\/strong> Rohe PDF-Handb\u00fccher, Intranet-Wikis und strukturierte Datenbanktabellen werden in den Google Cloud Storage (GCS) geladen und in semantische Abschnitte (Chunks) von 500 bis 1000 Token mit 10 % \u00dcberlappung zerlegt.<\/li>\r\n
BigQuery ML Vektorindexierung:<\/strong> Die Abschnitte werden in BigQuery-Tabellen gespeichert, wo Vertex-AI-Embedding-Modelle (z. B. text-embedding-004<\/code> oder text-multilingual-embedding-002<\/code>) hochdimensionale Vektoren direkt via SQL generieren.<\/li>\r\n
Grounding mit Vertex AI Gemini:<\/strong> Bei einer eingehenden Anfrage f\u00fchrt BigQuery Vector Search eine Ann\u00e4herungssuche (Approximate Nearest Neighbor, ANN) aus, um die relevantesten Textabschnitte abzurufen, welche anschlie\u00dfend als faktischer Kontext in den Prompt eines Gemini-Modells integriert werden.<\/li>\r\n<\/ul>\r\n\r\n\r\n\r\n\n\nIndexieren und Antworten sind zwei getrennte Aufgaben, verbunden durch ein Artefakt: Der Vektorindex wird einmal gebaut und bei jeder Frage gelesen \u2014 das h\u00e4lt die Antworten belegt und die Kosten vorhersehbar.<\/figcaption>\n<\/figure>\r\n\r\n\r\n\r\n
2. Schritt-f\u00fcr-Schritt-Generierung von Embeddings in BigQuery ML<\/h2>\r\n\r\n\r\n\r\n
Um Vektor-Embeddings ohne den Export von Daten in externe Python-Skripte zu erstellen, wird eine direkte Verbindung zum Vertex AI Modell in BigQuery eingerichtet. Das folgende SQL-Skript verbindet das Embedding-Modell und transformiert eine Tabelle mit Textabschnitten in ein vektorindexiertes Wissensarchiv:<\/p>\r\n\r\n\r\n\r\n
-- 1. Verbindung zum Vertex AI Embedding-Endpunkt anlegen\nCREATE OR REPLACE MODEL `enterprise_kb.vertex_embed_model`\nREMOTE WITH CONNECTION `us-central1.vertex_ai_connection`\nOPTIONS (\n ENDPOINT = 'text-embedding-004'\n);\n\n-- 2. Vektor-Embeddings f\u00fcr unstrukturierte Dokumentenabschnitte erzeugen\nCREATE OR REPLACE TABLE `enterprise_kb.document_embeddings` AS\nSELECT\n doc_id,\n chunk_id,\n content_text,\n source_url,\n ml_generate_embedding_result AS content_embedding\nFROM\n ML.GENERATE_EMBEDDING(\n MODEL `enterprise_kb.vertex_embed_model`,\n TABLE `enterprise_kb.raw_document_chunks`,\n STRUCT(TRUE AS flatten_json_output)\n )\nWHERE\n content_text IS NOT NULL;<\/code><\/pre>\r\n\r\n\r\n\r\n
Um extrem schnelle Antwortzeiten bei gro\u00dfen Datenmengen zu garantieren, muss vor der Ausf\u00fchrung semantischer \u00c4hnlichkeitssuchen ein IVF-Vektorindex (Inverted File) auf die Embedding-Spalte angewendet werden:<\/p>\r\n\r\n\r\n\r\n
-- 1. IVF-Vektorindex (Approximate Nearest Neighbor) erzeugen\nCREATE VECTOR INDEX `kb_semantic_index`\nON `enterprise_kb.document_embeddings`(content_embedding)\nOPTIONS (\n index_type = 'IVF',\n distance_type = 'COSINE',\n ivf_options = '{\"num_lists\": 1000}'\n);\n\n-- 2. Vektor\u00e4hnlichkeitssuche zur Extraktion der Top-3-Abschnitte ausf\u00fchren\nSELECT\n base.doc_id,\n base.chunk_id,\n base.content_text,\n base.source_url,\n distance AS cosine_distance\nFROM\n VECTOR_SEARCH(\n TABLE `enterprise_kb.document_embeddings`,\n 'content_embedding',\n (\n SELECT ml_generate_embedding_result AS content_embedding\n FROM ML.GENERATE_EMBEDDING(\n MODEL `enterprise_kb.vertex_embed_model`,\n (SELECT 'Wie lauten die Eskalationsregeln bei kritischen Serverausf\u00e4llen?' AS content_text),\n STRUCT(TRUE AS flatten_json_output)\n )\n ),\n top_k => 3,\n distance_type => 'COSINE'\n )\nORDER BY distance ASC;<\/code><\/pre>\r\n\r\n\r\n\r\n
4. Schritt-f\u00fcr-Schritt-RAG-Grounding-Pipeline mit Gemini<\/h2>\r\n\r\n\r\n\r\n
Sobald die relevanten Kontextabschnitte mittels BigQuery Vector Search extrahiert wurden, wird ein strukturierter Grounding-Prompt zusammengestellt und per Python an die Vertex AI Gemini API \u00fcbermittelt:<\/p>\r\n\r\n\r\n\r\n
from google.cloud import bigquery\nimport vertexai\nfrom vertexai.generative_models import GenerativeModel\n\n# Google-Cloud-Clients initialisieren\nbq_client = bigquery.Client(project='enterprise-ai-project')\nvertexai.init(project='enterprise-ai-project', location='us-central1')\n\ndef answer_query_with_rag(user_question):\n \"\"\"F\u00fchrt eine BigQuery-Vektorsuche aus und sichert Gemini-Antworten faktisch ab.\"\"\"\n \n # BigQuery Vector Search f\u00fcr die Top-3 semantischen Chunks abfragen\n search_query = f\"\"\"\n SELECT base.content_text, base.source_url\n FROM VECTOR_SEARCH(\n TABLE `enterprise_kb.document_embeddings`,\n 'content_embedding',\n (\n SELECT ml_generate_embedding_result AS content_embedding\n FROM ML.GENERATE_EMBEDDING(\n MODEL `enterprise_kb.vertex_embed_model`,\n (SELECT @question AS content_text),\n STRUCT(TRUE AS flatten_json_output)\n )\n ),\n top_k => 3,\n distance_type => 'COSINE'\n )\n \"\"\"\n \n job_config = bigquery.QueryJobConfig(\n query_parameters=[bigquery.ScalarQueryParameter(\"question\", \"STRING\", user_question)]\n )\n results = bq_client.query(search_query, job_config=job_config).result()\n \n # Extrahierte Abschnitte als Kontextblock formatieren\n context_block = \"\\n---\\n\".join([f\"Quelle ({row.source_url}): {row.content_text}\" for row in results])\n \n # Strikt massgeblichen RAG-Prompt erzeugen\n rag_prompt = f\"\"\"Sie sind ein technischer Unternehmensassistent.\nBeantworten Sie die Frage AUSSCHLIESSLICH basierend auf den Fakten im untenstehenden Kontext.\nFalls die Antwort nicht im Kontext enthalten ist, weisen Sie ausdr\u00fccklich darauf hin, dass die Information nicht vorliegt.\n\nKontext:\n{context_block}\n\nFrage:\n{user_question}\n\"\"\"\n\n model = GenerativeModel(\"gemini-1.5-pro\")\n response = model.generate_content(rag_prompt)\n return response.text\n\nif __name__ == '__main__':\n output = answer_query_with_rag(\"Wie lauten die Eskalationsregeln bei kritischen Serverausf\u00e4llen?\")\n print(output)<\/code><\/pre>\r\n\r\n\r\n\r\n
Was sich damit erreichen l\u00e4sst:<\/strong> Die erfolgreiche Bereitstellung einer serverlosen, hochskalierbaren RAG-Wissensdatenbank auf Basis von Google Cloud Vertex AI Embeddings, BigQuery ML Vektorindexierung und fundierter Gemini-Generierung.<\/p>\r\n\r\n\r\n\r\n
Resultierender Mehrwert:<\/strong> Fachspezifische Fragen zu internen Unternehmensdokumenten, Handb\u00fcchern und Datenbanken werden mit h\u00f6chster Pr\u00e4zision und nachvollziehbaren Quellenangaben beantwortet. KI-Halluzinationen werden eliminiert, da Antworten strikt an reale Organisationsdaten gebunden sind. Die Ausf\u00fchrung von Vektor-Embeddings und semantischer Suche direkt in BigQuery macht zudem teure, separate Vektordatenbanken \u00fcberfl\u00fcssig, w\u00e4hrend maximale Datensicherheit und IAM-Governance im Enterprise-Standard gewahrt bleiben.<\/p>\r\n\n\n
![\"Zwei](\"https:\/\/www.lukaswojcik.com\/blog\/wp-content\/uploads\/diagrams\/hand-rag-de.png\")
\n