BYOK आर्किटेक्चर: स्वतःची API की वापरून परवडणारे आणि प्रायव्हेट AI टूल्स कसे बनवावे?

आजकाल इंटरनेटवर प्रत्येक नवीन AI टूल दरमहा २० ते ३० डॉलर्सची वर्गणी मागते. प्रत्यक्षात मात्र युझर आठवड्यातून फक्त दोन-तीन वेळाच प्रॉम्प्ट्स देत असतो. मग प्रश्न पडतो—सर्वसामान्य डेव्हलपर्स आणि विद्यार्थ्यांना हे कसे परवडणार?

यावर सर्वोत्तम तोडगा म्हणजे BYOK (Bring Your Own Key) आर्किटेक्चर!

BYOK मॉडेल कसे काम करते?

• थेट क्लायंट ते मॉडेल: युझर त्याची स्वतःची OpenAI, Gemini किंवा Anthropic API की ब्राउझरच्या लोकल स्टोरेजमध्ये सुरक्षित साठवतो.
• शून्य मिडलमन सर्व्हर: रिक्वेस्ट आमच्या सर्व्हरवरून न जाता थेट युझरच्या ब्राऊझरमधून गुगल किंवा ओपनएआयच्या सुरक्षित एंडपॉईंटवर जाते.
• किफायतशीर खर्च: युझर फक्त त्याने विचारलेल्या टोकन्सचे पैसे थेट गुगल किंवा ओपनएआयला देतो, जे महिन्याला जेमतेम काही रुपये किंवा सेंट्स भरतात!

// ब्राउझरमध्ये सुरक्षित BYOK क्लायंटचा साचा
async function generateAiSummary(prompt: string, userApiKey: string) {
  const response = await fetch('https://generativelanguage.googleapis.com/v1beta/models/gemini-1.5-flash:generateContent', {
    method: 'POST',
    headers: {
      'Content-Type': 'application/json',
      'x-goog-api-key': userApiKey,
    },
    body: JSON.stringify({
      contents: [{ parts: [{ text: prompt }] }],
    }),
  });
  return await response.json();
}

या पद्धतीमुळे युझरचा डेटा आमच्याकडे साठवला जाण्याचा धोका शून्य होतो आणि अतिशय स्वस्त दरात सर्वोत्तम AI तंत्रज्ञान वापरता येते.