वाचनासाठी 4 मिनिटे
फेडरेटेड लर्निंग: तुमची वैयक्तिक माहिती गोळा न करता सॉफ्टवेअर कसे शिकते?
३० सेकंदांत अर्थ
फेडरेटेड लर्निंग ही एक विकेंद्रित मशीन लर्निंग पद्धत आहे, ज्यामध्ये वापरकर्त्यांचे खाजगी संदेश, फोटो किंवा वैद्यकीय नोंदी मध्यवर्ती क्लाउडवर न पाठवता थेट त्यांच्याच उपकरणांवर मॉडेलला प्रशिक्षित केले जाते. उपकरणे स्थानिक अनुभवांवरून शिकून केवळ सांकेतिक गणिती बदल सर्व्हरला पाठवतात, ज्यामुळे सामायिक मॉडेल सुधारते आणि वैयक्तिक माहिती पूर्णपणे सुरक्षित राहते.
खाजगी माहिती सुरक्षित ठेवून संगणकाला हुशार बनवण्याचा नवा मार्ग
तुम्ही स्मार्टफोनवर मेसेज टाईप करताना कीबोर्ड पुढचा अचूक शब्द सुचवतो किंवा कॅमेऱ्यात चेहरा आपोआप ओळखला जातो. मात्र हा अंदाज बांधण्यासाठी तुमच्या खाजगी गप्पा, बँक संदेश किंवा फोटो एखाद्या दूरवरच्या सर्व्हरवर पाठवले जातात का? पूर्वीच्या काळात अल्गोरिदम अधिक कार्यक्षम बनवण्यासाठी कंपन्या वापरकर्त्यांचा डेटा मध्यवर्ती सर्व्हरवर गोळा करत असत. जर स्मार्टफोन कीबोर्डची अचूकता सुधारायची असेल, तर लाखो लोकांचे मेसेज आणि सर्च हिस्टरी कॉर्पोरेट डेटा सेंटर्समध्ये अपलोड करावी लागत होती. तिथे या सर्व नोंदी एकत्र करून महाकाय संगणकांद्वारे न्यूरल नेटवर्क्सना प्रशिक्षण दिले जायचे.
जरी या केंद्रीकृत पद्धतीमुळे प्रगत सॉफ्टवेअर तयार झाले, तरी यामुळे वापरकर्त्यांच्या गोपनीयतेला प्रचंड मोठा धोका निर्माण झाला. लोकांचे खाजगी संभाषण, आर्थिक व्यवहार आणि वैद्यकीय नोंदी एकाच ठिकाणी साठवल्यामुळे डेटा चोरी, कर्मचाऱ्यांकडून होणारी हेरगिरी आणि सायबर हल्ल्यांचा धोका वाढला. याशिवाय युरोपमधील डेटा सुरक्षेचा कडक कायदा (GDPR) आणि कठोर वैद्यकीय नियमांमुळे रुग्णालये किंवा आंतरराष्ट्रीय संस्थांना लोकांचा संवेदनशील डेटा देशाबाहेर किंवा मध्यवर्ती सर्व्हरवर पाठवणे कायदेशीरदृष्ट्या अशक्य झाले.
२०१६ मध्ये संशोधकांनी यावर तोडगा म्हणून फेडरेटेड लर्निंग ही नवी संकल्पना मांडली, ज्याने ही संपूर्ण रचना उलटी केली. जगातील सर्व खाजगी डेटा मध्यवर्ती संगणकाकडे नेण्याऐवजी, फेडरेटेड लर्निंग थेट संगणकीय कोड त्या उपकरणावर पाठवते जिथे मूळ डेटा आधीपासून साठवलेला असतो. तुमचा स्मार्टफोन, लॅपटॉप किंवा रुग्णालयाचा संगणक स्वतःच्या उपकरणावरच मॉडेलला प्रशिक्षित करतो आणि कोणतीही खाजगी फाईल कधीही उपकरण सोडून बाहेर जात नाही.
उपकरणांमधील बदलांची सरासरी काढणे (फेडरेटेड ॲव्हरेजिंग) आणि समन्वय
फेडरेटेड लर्निंगची तांत्रिक प्रक्रिया स्थानिक सुधारणा आणि गणिती एकत्रीकरणाच्या चक्रातून पूर्ण होते:
- ग्लोबल मॉडेलचे वितरण: मुख्य सर्व्हर सध्याच्या मूलभूत मॉडेलची एक प्रत अशा उपकरणांना पाठवतो, जी सध्या चार्जिंगला लावलेली आहेत, वापरात नाहीत आणि वाय-फायशी जोडलेली आहेत.
- उपकरणावर स्थानिक शिक्षण: स्मार्टफोन किंवा स्थानिक संगणक वापरकर्त्याच्या खाजगी डेटावर (उदा. कीबोर्डवरील दुरुस्त्या किंवा ॲपचा वापर) प्रक्रिया करून मॉडेलमध्ये सुधारणा करतो आणि या बदलांना गणितातील दिशा दाखवणाऱ्या आकड्यांमध्ये (ज्याला तांत्रिक भाषेत ग्रेडियंट्स किंवा Gradients म्हणतात) मोजतो.
- माहिती किंचित अस्पष्ट करून गोपनीयता जपणे (डिफरेंशियल प्रायव्हसी): कोणतीही माहिती पाठवण्यापूर्वी उपकरण त्या गणिती बदलांमध्ये जाणूनबुजून किंचित अस्पष्टता (मॅथेमॅटिकल नॉईज) जोडते, ज्यामुळे कोणत्याही एका व्यक्तीचे विशिष्ट शब्द किंवा टायपिंग पुन्हा डिकोड करणे अशक्य बनते.
- सुरक्षित सांकेतिक एकत्रीकरण: मुख्य समन्वयक सर्व्हर एकाच वेळी हजारो उपकरणांकडून आलेले हे एन्क्रिप्टेड बदल गोळा करतो आणि सर्व बदलांची सुरक्षित सरासरी काढणाऱ्या नियमावलीद्वारे (फेडरेटेड ॲव्हरेजिंग) मुख्य मॉडेल अद्ययावत करतो.
पारंपारिक कीबोर्ड क्लाउड प्रणाली आणि आधुनिक फेडरेटेड लर्निंगमधील फरक अत्यंत स्पष्ट आहे. जुन्या पद्धतीनुसार तुम्ही डॉक्टर, कुटुंबीय किंवा बँक खात्याबद्दल टाईप केलेला प्रत्येक शब्द थेट कंपनीच्या सर्व्हरवर पाठवला जात असे, ज्यामुळे डेटा चोरीचा कायमचा धोका असायचा. याउलट, फेडरेटेड लर्निंगमध्ये तुमचा फोन हे ओळखतो की तुम्ही एखादा विशिष्ट स्थानिक शब्द वारंवार टाईप करत आहात; तो फोनमधील मॉडेल दुरुस्त करतो आणि मुख्य सर्व्हरला केवळ दशांश संख्यांची एन्क्रिप्टेड नोंद पाठवतो, ज्याचा अर्थ एवढाच असतो: 'या व्याकरण रचनेचे वजन ०.००३ टक्क्यांनी सुधारा.' सर्व्हर मॅनेजरला तुम्ही प्रेमपत्र लिहिले की किराणा मालाची यादी हे कधीही समजत नाही.
तांत्रिक मर्यादा, इंटरनेट बँडविड्थ आणि सुरक्षिततेचे आव्हान
फेडरेटेड लर्निंग हा गोपनीयतेच्या दृष्टीने मोठा टप्पा असला तरी त्यातही काही तांत्रिक आव्हाने आहेत:
- प्रोसेसिंग क्षमता आणि बॅटरीचा वापर: उपकरणावर मॉडेल प्रशिक्षित करताना बॅटरी आणि प्रोसेसरवर ताण येतो व उष्णता निर्माण होते, म्हणूनच ग्राहक उपकरणांमध्ये ही प्रक्रिया केवळ रात्री चार्जिंग चालू असताना केली जाते.
- माहिती गळतीचा धोका: अत्यंत प्रगत सायबर हल्लेखोर गणिती बदलांच्या विश्लेषणातून मूळ माहितीचा अंदाज लावण्याचा प्रयत्न करू शकतात, त्यामुळे मजबूत डिफरेंशियल प्रायव्हसी आणि कूटबद्धीकरण अनिवार्य असते.
- डेटा वितरणातील तफावत: वेगवेगळ्या भागांतील लोकांची भाषा आणि वागण्याच्या पद्धती भिन्न असतात, त्यामुळे संपूर्ण मॉडेल संतुलित ठेवण्यासाठी क्लिष्ट गणिती समीकरणे वापरावी लागतात.
- नेटवर्कचा वापर: केवळ साधा मजकूर पाठवण्यापेक्षा संगणकीय मेंदूच्या अंतर्गत जोडण्यांची ताकद (न्यूरल नेटवर्कचे वजन किंवा Weights) ट्रान्सफर करण्यासाठी जास्त इंटरनेट डेटा लागतो, ज्यामुळे मॉडेलचे आकुंचन करणे आवश्यक ठरते.
वैयक्तिक गोपनीयतेसह तंत्रज्ञानाची प्रगती
फेडरेटेड लर्निंग हे सिद्ध करते की कृत्रिम बुद्धिमत्तेचा विकास करण्यासाठी माणसाला आपले स्वातंत्र्य आणि गोपनीयता गमवावीच लागते असे नाही. जेव्हा आपण सॉफ्टवेअरची निवड करतो, तेव्हा उपकरणावरच स्थानिक प्रक्रिया करणाऱ्या आणि विकेंद्रित मॉडेल वापरणाऱ्या साधनांना प्राधान्य दिल्यास डिजिटल सुविधा आणि वैयक्तिक सुरक्षितता या दोन्ही गोष्टी एकाच वेळी साध्य करता येतात.
स्रोत
- Communication-Efficient Learning of Deep Networks from Decentralized DataGoogle Research
- NIST: Federated Learning Concepts and Security FoundationsNational Institute of Standards and Technology