AI પર નિયમન આવી શકે છે

આર્ટિફિશ્યલ ઇન્ટેલીજન્સ (AI) માં સતત નવીનતા લાવવા પર સરકાર ધ્યાન કેન્દ્રિત કરી રહી છે. ઇલેક્ટ્રોનિક્સ અને માહિતી ટેકનોલોજી મંત્રાલયના સચિવ એસ. કૃષ્ણને જણાવ્યું હતું કે જો જરૂરી હોય તો નિયમન અથવા કાનૂની પગલાં લેવામાં આવી શકે છે. તેઓ ઇન્ડિયા AIના ઓપરેશનલ માર્ગદર્શિકાના પ્રકાશન સમયે બોલી રહ્યા હતા. કૃષ્ણને કહ્યું, “જો આપણે માનીએ છીએ કે નવીનતા પ્રાથમિકતા છે, તો નિયમન આજે પ્રાથમિકતા નથી. હું પુનરાવર્તન કરવા માંગુ છું કે જો કાયદા અથવા નિયમનની જરૂર હોય, તો સરકાર પાછળ હટશે નહીં.”

ગયા અઠવાડીયે ઇન્ડિયાએઆઈ મિશન હેઠળ આઇટી મંત્રાલય દ્વારા રચાયેલી એક પેટા સમિતિએ ભારતના એઆઈ ક્ષેત્રમાં કામ કરતી કંપનીઓ માટે ઓપરેશનલ માર્ગદર્શિકા પરનો પોતાનો અહેવાલ રજૂ કર્યો. પેટા સમિતિએ એઆઈ ઓપરેશનલ સિદ્ધાંતોની સૂચિનો પ્રસ્તાવ મૂક્યો, જેમાં પારદર્શિતા, જવાબદારી, સુરક્ષા, ગોપનીયતા, ન્યાયીપણા, માનવ-કેન્દ્રિત મૂલ્યો, સમાવિષ્ટ નવીનતા અને ડિજિટલ ડિઝાઇન જેવા વિષયોને આવરી લેવામાં આવ્યા છે.

ઉદાહરણ તરીકે, અહેવાલ સૂચવે છે કે ભારતમાં વિકસિત થતી AI સિસ્ટમો વપરાશકર્તાઓ માટે તેમની વિકાસ પ્રક્રિયા અને ક્ષમતાઓ અને મર્યાદાઓ વિશે અર્થપૂર્ણ માહિતી સાથે હોવી જોઈએ. રિપોર્ટમાં ભલામણ કરવામાં આવી છે કે, “AI સિસ્ટમ્સના વિકાસકર્તાઓ અને વપરાશકર્તાઓએ AI સિસ્ટમ્સના કાર્ય અને પરિણામો માટે જવાબદારી લેવી જોઈએ. તેઓએ વપરાશકર્તા અધિકારો, કાયદાના શાસન અને ઉપર દર્શાવેલ સિદ્ધાંતોનો આદર કરવો જોઈએ. સ્પષ્ટ જવાબદારી પદ્ધતિઓ અમલમાં મૂકવી જોઈએ.”

રિપોર્ટમાં એવી પણ ભલામણ કરવામાં આવી છે કે AI સિસ્ટમ્સ પર અયોગ્ય નિર્ભરતાને રોકવા માટે તમામ AI સિસ્ટમ્સ માનવ દેખરેખ, નિર્ણય લેવા અને હસ્તક્ષેપને આધીન હોવી જોઈએ.

કૃષ્ણને જણાવ્યું હતું કે આ ભલામણો AI વિકાસ પ્રત્યે સરકારના અભિગમ સાથે સુસંગત છે. તેમણે કહ્યું, “અમે માનવોને કેન્દ્રમાં રાખવા પર ધ્યાન કેન્દ્રિત કરી રહ્યા છીએ. આ મહત્વપૂર્ણ સિદ્ધાંતોને AI શાસન માર્ગદર્શિકામાં સમાવિષ્ટ કરવામાં આવ્યા છે. મારું માનવું છે કે આ રિપોર્ટ ખૂબ જ મહત્વપૂર્ણ રહેશે, જે દર્શાવે છે કે અમારું ધ્યાન મુખ્યત્વે નવીનતા પર છે. અમે આ તકનો લાભ લેવા માંગીએ છીએ.”

સરકારે ડીપફેક્સ અને કૃત્રિમ બુદ્ધિ-આધારિત સામગ્રીના પ્રસારને રોકવા માટે ચોક્કસ માર્ગદર્શિકા જારી કરી છે. પેટા સમિતિએ જણાવ્યું હતું કે કેટચલાક ઠગ લોકો મીડિયા સામગ્રી બનાવવા માટે ફાઉન્ડેશન મોડેલ્સના દુરુપયોગ સામે રક્ષણ આપવા માટે ઘણા કાનૂની પગલાં અસ્તિત્વમાં છે. તે સૂચવે છે કે ડીપફેક્સ અને દૂષિત સામગ્રીને ઓળખવા માટે યોગ્ય પદ્ધતિઓ હોવી જોઈએ. આ માટે વિવિધ કલાકારોની અનન્ય ઓળખ શેર કરવી જરૂરી છે, જેમ કે કન્ટેન્ટ ક્રિએટર્સ, પ્રકાશકો અને સોશિયલ મીડિયા પ્લેટફોર્મ.

પેટા સમિતિએ જણાવ્યું હતું કે, “આનો ઉપયોગ જનરેટિવ AI ટૂલ્સના ઇનપુટ્સ અને આઉટપુટને વોટરમાર્ક કરવા માટે થઈ શકે છે. તેનો ઉપયોગ ડીપફેક્સને તેમની રચનાથી લઈને તેમના ઉપયોગ સુધી ટ્રેક કરવા અને વિશ્લેષણ કરવા માટે થઈ શકે છે. આનાથી એ પણ ઓળખવામાં મદદ મળી શકે છે કે ક્યારે સામગ્રી સંમતિ વિના અથવા કાયદાના ઉલ્લંઘનમાં બનાવવામાં આવી હતી.”

ઇન્ડિયન ઇન્સ્ટિટ્યૂટ ઓફ ટેકનોલોજીના પ્રોફેસર બી. રવિન્દ્રનની અધ્યક્ષતામાં, પેટા સમિતિમાં ઇન્ડિયા AI મિશનના CEO અભિષેક સિંહ, દેવયાની ઘોષ, એડવોકેટ રાહુલ મથન અને i-Spiritના શરદ શર્માનો પણ સમાવેશ થતો હતો.આર્ટિફિશ્યલ ઇન્ટેલીજન્સ (AI) માં સતત નવીનતા લાવવા પર સરકાર ધ્યાન કેન્દ્રિત કરી રહી છે. ઇલેક્ટ્રોનિક્સ અને માહિતી ટેકનોલોજી મંત્રાલયના સચિવ એસ. કૃષ્ણને જણાવ્યું હતું કે જો જરૂરી હોય તો નિયમન અથવા કાનૂની પગલાં લેવામાં આવી શકે છે. તેઓ ઇન્ડિયા AIના ઓપરેશનલ માર્ગદર્શિકાના પ્રકાશન સમયે બોલી રહ્યા હતા. કૃષ્ણને કહ્યું, “જો આપણે માનીએ છીએ કે નવીનતા પ્રાથમિકતા છે, તો નિયમન આજે પ્રાથમિકતા નથી. હું પુનરાવર્તન કરવા માંગુ છું કે જો કાયદા અથવા નિયમનની જરૂર હોય, તો સરકાર પાછળ હટશે નહીં.”

ગયા અઠવાડીયે ઇન્ડિયાએઆઈ મિશન હેઠળ આઇટી મંત્રાલય દ્વારા રચાયેલી એક પેટા સમિતિએ ભારતના એઆઈ ક્ષેત્રમાં કામ કરતી કંપનીઓ માટે ઓપરેશનલ માર્ગદર્શિકા પરનો પોતાનો અહેવાલ રજૂ કર્યો. પેટા સમિતિએ એઆઈ ઓપરેશનલ સિદ્ધાંતોની સૂચિનો પ્રસ્તાવ મૂક્યો, જેમાં પારદર્શિતા, જવાબદારી, સુરક્ષા, ગોપનીયતા, ન્યાયીપણા, માનવ-કેન્દ્રિત મૂલ્યો, સમાવિષ્ટ નવીનતા અને ડિજિટલ ડિઝાઇન જેવા વિષયોને આવરી લેવામાં આવ્યા છે.

ઉદાહરણ તરીકે, અહેવાલ સૂચવે છે કે ભારતમાં વિકસિત થતી AI સિસ્ટમો વપરાશકર્તાઓ માટે તેમની વિકાસ પ્રક્રિયા અને ક્ષમતાઓ અને મર્યાદાઓ વિશે અર્થપૂર્ણ માહિતી સાથે હોવી જોઈએ. રિપોર્ટમાં ભલામણ કરવામાં આવી છે કે, “AI સિસ્ટમ્સના વિકાસકર્તાઓ અને વપરાશકર્તાઓએ AI સિસ્ટમ્સના કાર્ય અને પરિણામો માટે જવાબદારી લેવી જોઈએ. તેઓએ વપરાશકર્તા અધિકારો, કાયદાના શાસન અને ઉપર દર્શાવેલ સિદ્ધાંતોનો આદર કરવો જોઈએ. સ્પષ્ટ જવાબદારી પદ્ધતિઓ અમલમાં મૂકવી જોઈએ.”

રિપોર્ટમાં એવી પણ ભલામણ કરવામાં આવી છે કે AI સિસ્ટમ્સ પર અયોગ્ય નિર્ભરતાને રોકવા માટે તમામ AI સિસ્ટમ્સ માનવ દેખરેખ, નિર્ણય લેવા અને હસ્તક્ષેપને આધીન હોવી જોઈએ.

કૃષ્ણને જણાવ્યું હતું કે આ ભલામણો AI વિકાસ પ્રત્યે સરકારના અભિગમ સાથે સુસંગત છે. તેમણે કહ્યું, “અમે માનવોને કેન્દ્રમાં રાખવા પર ધ્યાન કેન્દ્રિત કરી રહ્યા છીએ. આ મહત્વપૂર્ણ સિદ્ધાંતોને AI શાસન માર્ગદર્શિકામાં સમાવિષ્ટ કરવામાં આવ્યા છે. મારું માનવું છે કે આ રિપોર્ટ ખૂબ જ મહત્વપૂર્ણ રહેશે, જે દર્શાવે છે કે અમારું ધ્યાન મુખ્યત્વે નવીનતા પર છે. અમે આ તકનો લાભ લેવા માંગીએ છીએ.”

સરકારે ડીપફેક્સ અને કૃત્રિમ બુદ્ધિ-આધારિત સામગ્રીના પ્રસારને રોકવા માટે ચોક્કસ માર્ગદર્શિકા જારી કરી છે. પેટા સમિતિએ જણાવ્યું હતું કે કેટચલાક ઠગ લોકો મીડિયા સામગ્રી બનાવવા માટે ફાઉન્ડેશન મોડેલ્સના દુરુપયોગ સામે રક્ષણ આપવા માટે ઘણા કાનૂની પગલાં અસ્તિત્વમાં છે. તે સૂચવે છે કે ડીપફેક્સ અને દૂષિત સામગ્રીને ઓળખવા માટે યોગ્ય પદ્ધતિઓ હોવી જોઈએ. આ માટે વિવિધ કલાકારોની અનન્ય ઓળખ શેર કરવી જરૂરી છે, જેમ કે કન્ટેન્ટ ક્રિએટર્સ, પ્રકાશકો અને સોશિયલ મીડિયા પ્લેટફોર્મ.

પેટા સમિતિએ જણાવ્યું હતું કે, “આનો ઉપયોગ જનરેટિવ AI ટૂલ્સના ઇનપુટ્સ અને આઉટપુટને વોટરમાર્ક કરવા માટે થઈ શકે છે. તેનો ઉપયોગ ડીપફેક્સને તેમની રચનાથી લઈને તેમના ઉપયોગ સુધી ટ્રેક કરવા અને વિશ્લેષણ કરવા માટે થઈ શકે છે. આનાથી એ પણ ઓળખવામાં મદદ મળી શકે છે કે ક્યારે સામગ્રી સંમતિ વિના અથવા કાયદાના ઉલ્લંઘનમાં બનાવવામાં આવી હતી.”

ઇન્ડિયન ઇન્સ્ટિટ્યૂટ ઓફ ટેકનોલોજીના પ્રોફેસર બી. રવિન્દ્રનની અધ્યક્ષતામાં, પેટા સમિતિમાં ઇન્ડિયા AI મિશનના CEO અભિષેક સિંહ, દેવયાની ઘોષ, એડવોકેટ રાહુલ મથન અને i-Spiritના શરદ શર્માનો પણ સમાવેશ થતો હતો.