Ramy oceny szybko rozwijających się technologii cyfrowych i pokrewnych: sztuczna inteligencja, duże modele językowe i nie tylko

• Wprowadzenie 
• Tło 
• Opracowanie ram analitycznych 
• Korzystanie z ram analitycznych 
• Wymiary, które należy wziąć pod uwagę przy ocenie nowej technologii 
• Droga naprzód 
• Podziękowania

Szybko powstające technologie stwarzają wyzwania, jeśli chodzi o zarządzanie nimi i potencjalne regulacje. Debaty polityczne i publiczne na temat sztucznej inteligencji (AI) i jej wykorzystania zwróciły uwagę na te kwestie. Chociaż UNESCO, OECD i inne organizacje ogłosiły ogólne zasady dotyczące sztucznej inteligencji i toczą się dyskusje na temat globalnych lub jurysdykcyjnych regulacji tej technologii, istnieje ontologiczna luka pomiędzy rozwojem zasad wysokiego szczebla a ich włączeniem do przepisów, polityki, podejścia do zarządzania i zarządzania. Tutaj szczególną rolę mogłaby odegrać pozarządowa społeczność naukowa. 

Wielu naukowców i ekspertów ds. polityki zaproponowało, aby Międzynarodowa Rada Nauki (ISC) – składająca się z pluralistycznego składu przedstawicieli nauk społecznych i przyrodniczych – ustanowiła proces tworzenia i utrzymywania ramowej/listy kontrolnej z adnotacjami dotyczącej zagrożeń, korzyści, zagrożenia i możliwości związane z szybko rozwijającymi się technologiami cyfrowymi, w tym między innymi sztuczną inteligencją. Celem listy kontrolnej byłoby poinformowanie wszystkich zainteresowanych stron – w tym rządów, negocjatorów handlowych, organów regulacyjnych, społeczeństwa obywatelskiego i przemysłu – o potencjalnych przyszłych scenariuszach oraz określenie, w jaki sposób mogą rozważyć możliwości, korzyści, ryzyko i inne kwestie. 

Wyniki nie pełniłyby roli organu oceniającego, ale adaptacyjnych i ewoluujących ram analitycznych, które mogłyby stanowić podstawę wszelkich procesów oceny i regulacji, które mogą zostać opracowane przez zainteresowane strony, w tym rządy i system wielostronny. W idealnym przypadku wszelkie ramy analityczne powinny być opracowywane niezależnie od twierdzeń rządu i branży, biorąc pod uwagę ich zrozumiałe interesy. Musi być także maksymalnie pluralistyczna w swoich perspektywach, obejmując w ten sposób wszystkie aspekty technologii i jej implikacje. 

Niniejszy dokument do dyskusji przedstawia zarys wstępnych ram, na których opierają się liczne globalne i krajowe dyskusje dotyczące sztucznej inteligencji. 

Szybkie pojawienie się technologii charakteryzującej się złożonością i konsekwencjami sztucznej inteligencji powoduje wiele twierdzeń o ogromnych korzyściach. Budzi jednak także obawy przed poważnymi zagrożeniami, zarówno na poziomie indywidualnym, jak i geostrategicznym. Duża część dyskusji toczy się zwykle na skrajnych krańcach spektrum poglądów i potrzebne jest bardziej pragmatyczne podejście. Technologia sztucznej inteligencji będzie nadal ewoluować, a historia pokazuje, że praktycznie każda technologia ma zarówno korzystne, jak i szkodliwe zastosowania. Pytanie brzmi zatem: w jaki sposób możemy osiągnąć korzystne wyniki dzięki tej technologii, jednocześnie zmniejszając ryzyko szkodliwych konsekwencji, z których niektóre mogą mieć wymiar egzystencjalny? 

Przyszłość jest zawsze niepewna, istnieje jednak wystarczająca liczba wiarygodnych i eksperckich głosów na temat sztucznej inteligencji i generatywnej sztucznej inteligencji, aby zachęcić do przyjęcia stosunkowo ostrożnego podejścia. Ponadto potrzebne jest podejście systemowe, ponieważ sztuczna inteligencja to klasa technologii o szerokim zastosowaniu i zastosowaniu przez wiele typów użytkowników. Oznacza to, że rozważając implikacje sztucznej inteligencji dla jednostek, życia społecznego, życia obywatelskiego, życia społecznego oraz w kontekście globalnym, należy wziąć pod uwagę pełny kontekst. 

W przeciwieństwie do większości wcześniejszych technologii, technologie cyfrowe i pokrewne mają bardzo krótki okres czasu od opracowania do wydania, w dużej mierze podyktowany interesami firm produkcyjnych lub agencji. Sztuczna inteligencja jest szybko wszechobecna; niektóre właściwości mogą ujawnić się dopiero po wypuszczeniu na rynek, a technologia może mieć zarówno złowrogie, jak i dobroczynne zastosowania. Wymiary ważnych wartości będą miały wpływ na postrzeganie każdego zastosowania. Co więcej, w grę mogą wchodzić interesy geostrategiczne. 

Do tej pory regulacje dotyczące technologii wirtualnej były w dużej mierze postrzegane przez pryzmat „zasad” i dobrowolnego przestrzegania. Ostatnio jednak dyskusja zeszła na kwestie zarządzania krajowego i wielostronnego, w tym wykorzystania narzędzi regulacyjnych i innych narzędzi polityki. Twierdzenia za lub przeciw sztucznej inteligencji są często przesadne i – biorąc pod uwagę charakter technologii – trudne do oceny. Ustanowienie skutecznego globalnego lub krajowego systemu regulacji technologii będzie wyzwaniem i potrzebnych będzie wielopoziomowe podejmowanie decyzji w oparciu o ryzyko w całym łańcuchu, od wynalazcy do producenta, użytkownika, rządu i systemu wielostronnego. 

Chociaż zasady wysokiego szczebla zostały ogłoszone między innymi przez UNESCO, OECD i Komisję Europejską i toczą się różne dyskusje na wysokim szczeblu dotyczące kwestii potencjalnych regulacji, istnieje duża rozbieżność ontologiczna pomiędzy takimi zasadami a ramami zarządzania lub ramami regulacyjnymi. Jaką taksonomię rozważań powinien rozważyć organ regulacyjny? Wąsko ukierunkowane ramy byłyby nierozsądne, biorąc pod uwagę szerokie implikacje tych technologii. Potencjał ten był przedmiotem wielu komentarzy, zarówno pozytywnych, jak i negatywnych.

ISC jest wiodącą światową organizacją pozarządową integrującą nauki przyrodnicze i społeczne. Jej globalny i dyscyplinarny zasięg oznacza, że ​​jest dobrze przygotowana do generowania niezależnych i odpowiednich na skalę globalną porad, które pomogą w podejmowaniu złożonych wyborów, jakie stoją przed nami, zwłaszcza że obecne głosy na tej arenie pochodzą głównie ze strony przemysłu lub głównych potęg technologicznych. W następstwie szeroko zakrojonych dyskusji prowadzonych w ostatnich miesiącach, w tym rozważenia pozarządowego procesu oceny, ISC stwierdziła, że ​​jego najbardziej użytecznym wkładem byłoby stworzenie i utrzymanie adaptacyjnych ram analitycznych, które można wykorzystać jako podstawę dyskursu i procesu decyzyjnego przez wszystkich interesariuszy, w tym podczas wszelkich pojawiających się formalnych procesów oceny. 

Ramy te miałyby formę nadrzędnej listy kontrolnej, z której mogłyby korzystać zarówno instytucje rządowe, jak i pozarządowe. Ramy identyfikują i badają potencjał technologii, takiej jak sztuczna inteligencja i jej pochodne, z szerokiej perspektywy, która obejmuje dobrostan ludzi i społeczeństwa, a także czynniki zewnętrzne, takie jak ekonomia, polityka, środowisko i bezpieczeństwo. Niektóre aspekty listy kontrolnej mogą być bardziej istotne niż inne, w zależności od kontekstu, ale lepsze decyzje są bardziej prawdopodobne, jeśli uwzględni się wszystkie domeny. Jest to nieodłączna wartość podejścia opartego na liście kontrolnej. 

Proponowane ramy wywodzą się z wcześniejszych prac i przemyśleń, w tym z raportu Międzynarodowej Sieci Rządowych Doradztw Naukowych (INGSA) dotyczącego dobrostanu cyfrowego¹ oraz Ramy klasyfikacji AI OECD² przedstawienie całości potencjalnych możliwości, zagrożeń i skutków sztucznej inteligencji. Ze względu na czas i kontekst, w jakim te poprzednie produkty miały bardziej ograniczone przeznaczenie, potrzebne są nadrzędne ramy przedstawiające pełen zakres zagadnień zarówno w perspektywie krótko-, jak i długoterminowej. 

Chociaż te ramy analityczne zostały opracowane z myślą o sztucznej inteligencji, można je zastosować do dowolnej szybko powstającej technologii. Zagadnienia są ogólnie pogrupowane w następujące kategorie w celu dalszego zbadania: 

• Dobrostan (w tym dobrostan jednostki lub samego siebie, społeczeństwa i życia społecznego oraz życia obywatelskiego) 
• Handel i gospodarka 
• Środowiskowy 
• Geostrategiczne i geopolityczne 
• Technologiczne (charakterystyka systemu, konstrukcja i zastosowanie) 

Zawarto listę rozważań dotyczących każdej z powyższych kategorii wraz z ich możliwościami i konsekwencjami. Niektóre z nich są istotne dla konkretnych przypadków lub zastosowań sztucznej inteligencji, inne zaś mają charakter ogólny i niezależny od platformy lub zastosowania. Żadnej pojedynczej kwestii zawartej w tym miejscu nie należy traktować priorytetowo i jako takie należy zbadać wszystkie. 

Ramy te można wykorzystać między innymi w następujący sposób: 

• Wypełnienie luki między zasadami a oceną poprzez ustanowienie zatwierdzonej wspólnej taksonomii zakresu czynników, które mogłyby zostać wykorzystane przez odpowiednie zainteresowane strony jako podstawa do informowania i kształtowania dalszego myślenia, w tym wszelkich ram oceny, które mogą zostać opracowane przez władze. 

• Aby informować o ocenach skutków. Ustawa UE o sztucznej inteligencji wymaga, aby organizacje dostarczające narzędzia sztucznej inteligencji lub wdrażające sztuczną inteligencję w swoich procesach przeprowadziły ocenę skutków w celu zidentyfikowania ryzyka związanego z ich inicjatywami i zastosowania odpowiedniego podejścia do zarządzania ryzykiem. Zaprezentowane tutaj ramy mogą posłużyć jako podstawa. 

• Wzmocnienie zasad etycznych niezbędnych do kierowania i zarządzania wykorzystaniem sztucznej inteligencji. Ramy mogą tego dokonać, zapewniając elastyczną podstawę, na której można opracować wiarygodne systemy i zapewniając zgodne z prawem, etyczne, solidne i odpowiedzialne wykorzystanie technologii. Zasady te można przetestować w odniesieniu do pełnego zakresu skutków przedstawionych w niniejszych ramach. 
• Ułatwienie podsumowania istniejących środków (tj. regulacyjnych, legislacyjnych, politycznych) i zidentyfikowanie wszelkich luk wymagających dalszego rozważenia. 

• Ramy są niezależne od technologii i jej wykorzystania. Można go zatem stosować w całkiem odrębnych obszarach, takich jak biologia syntetyczna. 

Poniższa tabela przedstawia wczesne kształtowanie wymiarów ram analitycznych. W zależności od technologii i jej zastosowania niektóre komponenty będą bardziej istotne niż inne. Podane przykłady ilustrują, dlaczego każda domena może mieć znaczenie; w kontekście ramy wymagałyby kontekstowo odpowiedniego rozszerzenia. Ważne jest również rozróżnienie pomiędzy rozwojem platformy a problemami ogólnymi, które mogą pojawić się w trakcie konkretnych zastosowań.  

Klucz do źródła deskryptorów

Zwykły tekst:
Gluckman, P. i Allen, K. 2018. Zrozumienie wellbeingu w kontekście szybkich transformacji cyfrowych i z nimi związanych. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Pogrubiony tekst:
OECD. 2022. Ramy OECD dotyczące klasyfikacji systemów sztucznej inteligencji. Dokumenty OECD dotyczące gospodarki cyfrowej, nr 323, OECD Publishing, Paryż. https://oecd.ai/en/classification 

Tekst kursywą:
Nowe deskryptory (z wielu źródeł) 

W zależności od odpowiedzi na niniejszy dokument do dyskusji, ISC utworzy ekspercką grupę roboczą w celu dalszego rozwijania lub zmiany powyższych ram analitycznych, dzięki którym zainteresowane strony mogłyby kompleksowo przyjrzeć się wszelkim znaczącym zmianom w zakresie platform lub wymiarów użytkowania. Grupa robocza byłaby zróżnicowana pod względem dyscyplinarnym, geograficznym i demograficznym, a jej wiedza specjalistyczna obejmowałaby ocenę technologii po politykę publiczną, od rozwoju człowieka po socjologię oraz studia nad przyszłością i technologią. 

Aby wziąć udział w tym dokumencie do dyskusji, odwiedź stronę Council.science/publications/framework-digital-technologies 

Przy opracowywaniu tego dokumentu, którego autorem jest Sir Peter Gluckman Gluckman, prezes ISC i Hema Sridhar, była główna naukowczyni w Ministerstwie Obrony, a obecnie starsza pracowniczka naukowa Uniwersytetu w Auckland w Nowej Zelandii. 

W szczególności dziękujemy Lordowi Martinowi Reesowi, byłemu prezesowi Towarzystwa Królewskiego i współzałożycielowi Centrum Badań nad Ryzykiem Egzystencjalnym na Uniwersytecie w Cambridge; Profesor Shivaji Sondhi, profesor fizyki, Uniwersytet Oksfordzki; profesor K. Vijay Raghavan, były główny doradca naukowy rządu Indii; Amandeep Singh Gill, wysłannik Sekretarza Generalnego ONZ ds. Technologii; Dr Seán Óh Éigeartaigh, dyrektor wykonawczy, Centrum Badań nad Ryzykiem Egzystencjalnym, Uniwersytet w Cambridge; Amanda-June Brawner, starszy doradca ds. polityki i Ian Wiggins, dyrektor ds. międzynarodowych, Royal Society UK; dr Jerome Duberry, dr Marie-Laure Salles, dyrektor Instytutu Absolwentów w Genewie; Chor Pharn Lee, Centrum Przyszłości Strategicznej, Biuro Premiera, Singapur; Barend Mons i dr Simon Hodson, Komisja ds. Danych (CoDATA); prof. Yuko Harayama, Japonia; profesor Rémi Quirion, prezes INGSA; dr Claire Craig, Uniwersytet Oksfordzki i była dyrektor ds. prognozowania w Rządowym Biurze Naukowym; oraz prof. Yoshua Bengio, Naukowa Rada Doradcza Sekretarza Generalnego ONZ i Université de Montréal. Ogólnie przyjęto podejście oparte na liście kontrolnej i podkreślono terminowość wszelkich działań ISC.