Azure AI Agent met SharePoint en RAG

Voor organisaties die AI willen inzetten op basis van hun eigen bedrijfsinformatie, is het belangrijk dat een AI-agent toegang heeft tot betrouwbare en relevante gegevens. SharePoint bevat vaak al een grote hoeveelheid van deze informatie, maar hoe zorg je ervoor dat een Azure AI-agent deze data daadwerkelijk kan gebruiken?

 

Met Retrieval-Augmented Generation (RAG) kun je een AI-agent verbinden met je SharePoint-data. In deze blog bekijken we welke mogelijkheden hiervoor beschikbaar zijn en hoe je een agent in Microsoft Foundry kunt koppelen aan SharePoint via Azure AI Search en Foundry IQ.

Drie manieren om SharePoint te verbinden

Er zijn drie manieren om SharePoint aan een Azure AI-agent te koppelen:

 

  • de Foundry SharePoint tool
  • een remote knowledge source
  • de geïndexeerde methode met Azure AI Search

 

De eerste methode maakt rechtstreeks verbinding met SharePoint via de Copilot Retrieval API. Hiervoor is een Microsoft 365 Copilot-licentie nodig en er hoeft geen index te worden aangemaakt. De SharePoint-tool is rechtstreeks beschikbaar binnen Microsoft Foundry.

 

Een remote knowledge source lijkt hierop, maar wordt gebruikt als knowledge source binnen een knowledge base van Foundry IQ. Ook deze methode maakt gebruik van dezelfde retrieval-laag van de Copilot Retrieval API.

 

De derde mogelijkheid is om de SharePoint-data eerst te indexeren met Azure AI Search. In plaats van rechtstreeks naar SharePoint te zoeken, wordt de data eerst geïndexeerd. Vervolgens wordt de index door de agent geraadpleegd. Deze methode kan volledig binnen Azure worden ingericht.

 

In deze blog richten we ons op deze laatste aanpak en laten we daarna zien hoe dezelfde geïndexeerde data met Foundry IQ kan worden gebruikt.

Meer tips zoals dit?

Schrijf je dan in voor onze nieuwsbrief!

Azure AI Search of Foundry IQ?

Welke aanpak het meest geschikt is, hangt af van wat je met de agent wilt bereiken.

 

Wanneer je rechtstreeks met een SharePoint-index wilt werken en één index voldoende is, kun je de Azure AI Search tool gebruiken. Deze aanpak wordt ook wel gezien als de oudere manier om geïndexeerde data vanuit een agent te benaderen. Een nadeel is dat de Azure AI Search tool slechts één index tegelijk kan bevragen.

 

Met Foundry IQ kun je meerdere knowledge sources combineren. Daardoor kun je bijvoorbeeld SharePoint-data combineren met andere kennisbronnen en deze vanuit één knowledge base laten bevragen.

SharePoint-data indexeren met Azure AI Search

Voor de geïndexeerde aanpak maken we eerst een Azure AI Search-resource aan. Deze resource wordt gebruikt om de informatie uit SharePoint te indexeren en doorzoekbaar te maken.

 

Een index bestaat uit verschillende velden waarin de informatie wordt opgeslagen. Daarbij worden onder andere de daadwerkelijke inhoud van documenten, document-ID’s en vectorrepresentaties opgeslagen. Voor zoekopdrachten kunnen deze vectorrepresentaties worden gebruikt om relevante informatie te vinden op basis van de semantische betekenis van tekst.

 

Daarnaast zijn er specifieke velden nodig om later citations naar SharePoint-documenten te kunnen tonen. Denk hierbij aan:

 

  • URL
  • titel
  • bestandspad

 

Deze metadata maakt het mogelijk om vanuit het antwoord van de agent rechtstreeks naar het bijbehorende SharePoint-document te verwijzen.

Vector search en semantic ranking

Azure AI Search kan de inhoud van documenten omzetten naar vectorrepresentaties. Hierdoor kan de zoekservice niet alleen op losse zoekwoorden zoeken, maar ook rekening houden met de betekenis van tekst.

 

Een embeddingmodel wordt gebruikt om zowel de opgeslagen data als binnenkomende zoekopdrachten naar een vectorrepresentatie om te zetten. Daardoor kan de zoekservice bepalen welke opgeslagen informatie het meest relevant is voor een bepaalde vraag.

 

Daarnaast kan semantic ranking worden gebruikt. Hierbij worden de resultaten van een eerste zoekopdracht opnieuw gerangschikt op basis van de zoekvraag. De inhoud van bijvoorbeeld de titel en het tekstfragment wordt daarbij meegenomen om te bepalen welke resultaten het meest relevant zijn.

SharePoint als databron

Om SharePoint-data in Azure AI Search te krijgen, wordt SharePoint als data source ingericht. Hiervoor is onder andere een app-registratie nodig waarmee Azure AI Search toegang krijgt tot de SharePoint-bibliotheek.

 

De app-registratie zorgt voor een identiteit waarmee de zoekservice de benodigde rechten krijgt om de SharePoint-data te lezen. Voor deze toegang is toestemming van een administrator nodig.

 

Binnen Azure AI Search worden vervolgens verschillende onderdelen ingericht:

 

  • de index
  • de data source
  • de skill set
  • de indexer

 

De skill set zorgt ervoor dat de data uit de databron op de juiste manier wordt verwerkt voordat deze in de index terechtkomt. Zo kunnen documenten bijvoorbeeld worden opgesplitst in kleinere stukken, waarna deze stukken worden omgezet naar vectoren.

 

De indexer zorgt vervolgens voor het verwerken en indexeren van de SharePoint-data.

Citations naar SharePoint-documenten

Welke aanpak het meest geschikt is, hangt af van wat je met de agent wilt bereiken.

 

Wanneer je rechtstreeks met een SharePoint-index wilt werken en één index voldoende is, kun je de Azure AI Search tool gebruiken. Deze aanpak wordt ook wel gezien als de oudere manier om geïndexeerde data vanuit een agent te benaderen. Een nadeel is dat de Azure AI Search tool slechts één index tegelijk kan bevragen.

 

Met Foundry IQ kun je meerdere knowledge sources combineren. Daardoor kun je bijvoorbeeld SharePoint-data combineren met andere kennisbronnen en deze vanuit één knowledge base laten bevragen.

Een Azure AI-agent bouwen

Wanneer de Azure AI Search-resource en index klaar zijn, kan deze worden gekoppeld aan Microsoft Foundry.

 

Binnen Microsoft Foundry wordt eerst een verbinding met Azure AI Search aangemaakt. Vervolgens kan een agent worden gebouwd die gebruikmaakt van de Azure AI Search tool.

 

De agent kan bijvoorbeeld worden ingericht als een SharePoint-assistent. De agent krijgt instructies om antwoorden te voorzien van citations en gebruikt Azure AI Search om de relevante informatie uit de SharePoint-index op te halen.

 

Wanneer je vervolgens een vraag stelt, zoekt de agent in de geïndexeerde SharePoint-data. Het antwoord kan daarbij worden voorzien van een link naar het document waar de informatie vandaan komt.

 

In de demonstratie levert een vraag over bijvoorbeeld openingstijden een antwoord op met een verwijzing naar het bijbehorende SharePoint-document. De citation kan vervolgens rechtstreeks worden geopend.

De werking controleren met traces

Met Application Insights kun je vervolgens bekijken hoe de agent en de tools worden uitgevoerd.

 

In de traces is onder andere te zien welke documenten door Azure AI Search worden teruggegeven. Daarbij zijn de inhoud, het documentfragment, de titel, het bestandspad en de URL zichtbaar.

 

Dit maakt het mogelijk om te controleren welke informatie daadwerkelijk uit de index wordt opgehaald en hoe deze uiteindelijk bij de agent terechtkomt.

Meerdere kennisbronnen met Foundry IQ

Wanneer je niet alleen SharePoint wilt gebruiken, maar meerdere kennisbronnen wilt combineren, wordt Foundry IQ interessant.

 

Foundry IQ werkt met een knowledge base die meerdere knowledge sources kan bevatten. Deze bronnen kunnen gezamenlijk worden bevraagd om relevante informatie te vinden. Een knowledge base kan daarbij ook een agent gebruiken om informatie uit verschillende bronnen samen te vatten.

 

Een knowledge source kan bijvoorbeeld verwijzen naar een SharePoint-index. Maar je kunt daarnaast ook andere kennisbronnen toevoegen. Hierdoor ontstaat één centrale knowledge base waarmee verschillende typen bedrijfsinformatie kunnen worden ontsloten.

 

Dit is een belangrijk verschil met de directe Azure AI Search tool: waar je daar één index bevraagt, maakt Foundry IQ het mogelijk om meerdere knowledge sources te combineren.

Citations met Foundry IQ

Ook bij Foundry IQ kunnen citations naar de oorspronkelijke SharePoint-documenten worden weergegeven. Hiervoor moeten de velden met citation-informatie expliciet worden meegegeven als source data fields.

 

Deze velden vertellen de knowledge source welke informatie beschikbaar moet worden gesteld aan de agent als bronverwijzing. Wanneer de agent vervolgens informatie uit de knowledge source ontvangt, weet deze welke velden gebruikt kunnen worden voor de citation.

 

De uiteindelijke resultaten bevatten opnieuw de inhoud van het document, het bestandspad, de titel en de URL. Daarmee kan de agent ook via Foundry IQ verwijzen naar de oorspronkelijke SharePoint-documenten.

Een agent met Foundry IQ

Na het aanmaken van de knowledge base en knowledge source kan een nieuwe agent worden gekoppeld aan Foundry IQ.

 

In plaats van de Azure AI Search tool wordt hierbij de knowledge-functionaliteit gebruikt. De agent maakt verbinding met de eerder aangemaakte knowledge base en kan vervolgens de informatie uit de gekoppelde knowledge sources opvragen.

 

De resultaten kunnen opnieuw worden voorzien van citations. Het verschil is dat de informatie nu via de knowledge base en knowledge source wordt opgehaald, in plaats van rechtstreeks via de Azure AI Search tool.

Van prototype naar een echte AI-oplossing

Wanneer de agent succesvol toegang heeft tot de SharePoint-data, kan de oplossing verder worden uitgebouwd.

 

Een agent die vanuit Microsoft Foundry toegang heeft tot Azure AI Search kan bijvoorbeeld worden aangeroepen vanuit code en worden ondergebracht in een backend-service. Deze backend kan vervolgens worden gebruikt door een frontend waarmee medewerkers met de agent kunnen communiceren.

 

Met Foundry IQ kun je de oplossing daarnaast uitbreiden met nieuwe knowledge sources wanneer de informatiebehoefte groter wordt. Zo kan een agent steeds meer verschillende bronnen gebruiken zonder dat iedere bron afzonderlijk in de agent hoeft te worden verwerkt.

Conclusie

Met Azure AI, SharePoint en RAG kun je een AI-agent toegang geven tot de informatie die al binnen je organisatie aanwezig is.

 

Er zijn verschillende manieren om SharePoint met een Azure AI-agent te verbinden. Je kunt rechtstreeks gebruikmaken van de Foundry SharePoint tool, een remote knowledge source inzetten of SharePoint-data indexeren met Azure AI Search.

 

Voor eenvoudige scenario’s kan een directe Azure AI Search-koppeling voldoende zijn. Wanneer je meerdere kennisbronnen wilt combineren, biedt Foundry IQ meer mogelijkheden door verschillende knowledge sources onder één knowledge base samen te brengen.

 

Een goed ingerichte index en de juiste metadata zorgen er bovendien voor dat antwoorden niet alleen relevant zijn, maar ook voorzien kunnen worden van een directe verwijzing naar het oorspronkelijke SharePoint-document.

 

Daarmee ontstaat een AI-agent die niet alleen vragen kan beantwoorden op basis van bedrijfsdata, maar gebruikers ook kan laten zien waar die informatie vandaan komt.

Benieuwd wat dit voor jouw organisatie betekend?

Neem vrijblijvend contact met ons op en wij helpen je verder.

Azure Sandbox Environment

Veilig werken met Microsoft Azure Een Azure Sandbox-omgeving kan een waardevolle manier zijn om studenten, klanten of collega’s praktisch te leren werken met Microsoft Azure. Alleen video’s bekijken is immers

Lees deze blog »