High-Level Architecture Diagram for Contextual AI Assistant

Here's a comprehensive high-level architecture diagram for the Contextual AI Assistant with Mem0 and Neo4j:

┌─────────────────────────────────────────────────────────────────────────┐
│                           Client Applications                           │
│                                                                         │
│  ┌───────────────┐      ┌───────────────┐      ┌───────────────┐        │
│  │  Desktop App  │      │   Web Client  │      │  Mobile App   │        │
│  └───────┬───────┘      └───────┬───────┘      └───────┬───────┘        │
└──────────┼───────────────────────┼───────────────────────┼──────────────┘
           │                       │                       │
           │                       │                       │
           ▼                       ▼                       ▼
┌─────────────────────────────────────────────────────────────────────────┐
│                               API Layer                                 │
│                                                                         │
│  ┌─────────────────────┐                     ┌─────────────────────┐    │
│  │                     │                     │                     │    │
│  │    Ingestion API    │                     │     Query API       │    │
│  │    (/ingest)        │                     │   (/chat_completion)│    │
│  │                     │                     │                     │    │
│  └──────────┬──────────┘                     └──────────┬──────────┘    │
└─────────────┼────────────────────────────────────────────┼──────────────┘
              │                                            │
              ▼                                            │
┌─────────────────────────────┐                            │
│      Processing Layer       │                            │
│                             │                            │
│  ┌─────────────────────┐    │                            │
│  │  App Classification │    │                            │
│  └──────────┬──────────┘    │                            │
│             │               │                            │
│             ▼               │                            │
│  ┌─────────────────────┐    │                            │
│  │                     │    │                            │
│  │   Application       │    │                            │
│  │   Parsers           │    │                            │
│  │                     │    │                            │
│  │  ┌───────────────┐  │    │                            │
│  │  │  Messaging    │  │    │                            │
│  │  │  Parser       │  │    │                            │
│  │  └───────────────┘  │    │                            │
│  │  ┌───────────────┐  │    │                            │
│  │  │  GitHub       │  │    │                            │
│  │  │  Parser       │  │    │                            │
│  │  └───────────────┘  │    │                            │
│  │  ┌───────────────┐  │    │                            │
│  │  │  Other App    │  │    │                            │
│  │  │  Parsers      │  │    │                            │
│  │  └───────────────┘  │    │                            │
│  └──────────┬──────────┘    │                            │
│             │               │                            │
│             ▼               │                            │
│  ┌─────────────────────┐    │                            │
│  │  Entity Extraction  │    │                            │
│  └──────────┬──────────┘    │                            │
│             │               │                            │
│             ▼               │                            │
│  ┌─────────────────────┐    │                            │
│  │  Relationship       │    │                            │
│  │  Identification     │    │                            │
│  └──────────┬──────────┘    │                            │
└─────────────┼───────────────┘                            │
              │                                            │
              ▼                                            ▼
┌─────────────────────────────────────────────────────────────────────────┐
│                            Memory Layer                                  │
│                                                                         │
│  ┌─────────────────────────────────────────────────────────────────┐    │
│  │                        Mem0 Client                               │    │
│  │                                                                  │    │
│  │  ┌────────────────┐   ┌────────────────┐   ┌────────────────┐   │    │
│  │  │                │   │                │   │                │   │    │
│  │  │  Vector Store  │   │  Key-Value     │   │  Graph Store   │   │    │
│  │  │                │   │  Store         │   │                │   │    │
│  │  │  (Qdrant)      │   │  (Redis)       │   │  (Neo4j)       │   │    │
│  │  │                │   │                │   │                │   │    │
│  │  └────────────────┘   └────────────────┘   └────────────────┘   │    │
│  │                                                                  │    │
│  │  ● Semantic Search    ● Direct Lookups     ● Relationships      │    │
│  │  ● Content Storage    ● Entity States      ● Graph Traversal    │    │
│  │  ● Similarity         ● Fast Access        ● Network Analysis    │    │
│  │                                                                  │    │
│  └─────────────────────────────────────────────────────────────────┘    │
└─────────────────────────────────────────────────────────────────────────┘
                                   ▲
                                   │
                                   │
                                   ▼
┌─────────────────────────────────────────────────────────────────────────┐
│                            Query Layer                                   │
│                                                                         │
│  ┌─────────────────────┐    ┌─────────────────────┐                     │
│  │  Query Analysis     │    │  Query Strategies   │                     │
│  │                     │────▶                     │                     │
│  │  ● Intent Detection │    │ ┌─────────────────┐ │                     │
│  │  ● Type Classification    │ │Team            │ │                     │
│  │                     │    │ │Identification  │ │                     │
│  └─────────────────────┘    │ └─────────────────┘ │                     │
│                             │ ┌─────────────────┐ │                     │
│                             │ │Unreplied       │ │                     │
│                             │ │Messages        │ │                     │
│                             │ └─────────────────┘ │                     │
│                             │ ┌─────────────────┐ │                     │
│                             │ │Pending Reviews │ │                     │
│                             │ └─────────────────┘ │                     │
│                             └──────────┬──────────┘                     │
│                                        │                                │
│                                        ▼                                │
│  ┌─────────────────────────────────────────────────────────────┐       │
│  │                     Response Generation                      │       │
│  │                                                             │       │
│  │  ┌─────────────────┐    ┌─────────────────┐    ┌──────────┐ │       │
│  │  │ Context         │    │ LLM Integration │    │ Response │ │       │
│  │  │ Retrieval       │───▶│ (OpenAI)        │───▶│ Assembly │ │       │
│  │  └─────────────────┘    └─────────────────┘    └──────────┘ │       │
│  │                                                             │       │
│  └─────────────────────────────────────────────────────────────┘       │
└─────────────────────────────────────────────────────────────────────────┘

Architecture Components Explained

1. Client Applications

• Desktop App: Captures screen content every 5 seconds
• Web Client: Browser-based interface for queries
• Mobile App: On-the-go access to the assistant

2. API Layer

• Ingestion API (/ingest): Receives screen data from clients
• Query API (/chat_completion): Handles user questions and returns answers

3. Processing Layer

• App Classification: Identifies the application type from screen content
• Application Parsers: Specialized parsers for different application types
  • Messaging Parser (WhatsApp, Telegram, etc.)
  • GitHub Parser (PRs, issues, comments)
  • Other App Parsers (extensible)
• Entity Extraction: Identifies people, messages, tasks, etc.
• Relationship Identification: Maps connections between entities

4. Memory Layer (Mem0)

• Vector Store (Qdrant):
  • Stores embeddings for semantic search
  • Enables finding content based on meaning
  • Supports natural language queries
• Key-Value Store (Redis):
  • Fast direct lookups of entities
  • Stores entity states (read/unread, pending/completed)
  • Provides quick access to attributes
• Graph Store (Neo4j):
  • Stores relationships between entities
  • Enables graph traversal for complex queries
  • Supports network analysis