Naukowiec z PG z publikacją na wiodącej międzynarodowej konferencji o AI | Politechnika Gdańska

Treść strony

Aktualności

Data dodania: 2024-05-15

Naukowiec z PG z publikacją na wiodącej międzynarodowej konferencji o AI

Dr Cygert
Fot. arch. pryw. 
Dr inż. Sebastian Cygert jest współautorem publikacji pt. „Divide and not forget: ensemble of selectively trained experts in continual learning”, która została zaprezentowana na wiodącej konferencji AI, International Conference on Learning Representations (ICLR) w Wiedniu.

Dr inż. Sebastian Cygert jest adiunktem w Katedrze Systemów Multimedialnych na Wydziale Elektroniki, Telekonimunikacji i Informatyki. Pracuje także jako postdoc w IDEAS NCBR, gdzie  zajmuje się algorytmami uczonymi w trybie ciągłym (ang. Continual Learning).

Uczenie ciągłe pozwala modelom adaptować się do zmieniającego się, dynamicznego środowiska jakim jest otaczający nas świat. 

– Algorytmy uczone w trybie ciągłym będą nabierać coraz większe znaczenia w przypadku tzw. modeli fundacyjnych (ang. foundation models), które potrzebują ogromnej licznych danych. Są one bardzo kosztowne w treningu, a ponieważ zbiory danych są stale powiększane, chcemy mieć możliwość ich efektywnego dotrenowywania. Zamiast ponownego uczenia od podstaw na wszystkich dostępnych danych, modele mogą inkrementalnie aktualizować się, oszczędzając czas i moc obliczeniową – tłumaczy naukowiec.

W artykule prezentowanym na konferencji przedstawiona została nowa metoda, która pozwala na efektywne dotrenowanie wielu mniejszych modeli (ekspertów) na sekwencji zadań, z których każde posiada swój zestaw danych treningowych. Dzięki opracowanej metodzie wyboru ekspertów dla nowego zadania, udało się znacząco zminimalizować efekt tzw. katastroficznego zapominania, które jest jednym z wyzwań towarzyszącym algorytmom uczonym w trybie ciągłym. Opracowany algorytm działa w najbardziej wymagającym trybie, gdy nie ma dostępu do danych z poprzednich zadań. Otwiera to możliwości do zastosowania tych algorytmów, gdzie dostęp do danych jest często ograniczony ze względu na prywatność (np. w medycynie). 

Droga do bezpiecznego AI

W czasie studiów doktoranckich naukowiec pracował na algorytmach rozpoznawania obrazu, które są rzetelne i bezpieczne do użycia w otaczającym nas świecie. – Moje badania dotyczyły rozpoznawania obrazu dla takich dziedzin jak robotyka czy medycyna. To tzw. zastosowania krytyczne dla bezpieczeństwa (safety-critical AI), gdzie potencjalny koszt błędu algorytmu jest ogromny. W czasie doktoratu odbyłem staż badawczy w Tybindze w Niemczech pracując nad modelem percepcji dla pojazdu autonomicznego Scout. Staż ten okazał się kluczowy dla rozwoju moich dalszych zainteresowań badawczych. Zrozumiałem tam, jak daleka jest droga od odkrycia naukowego do narzędzia, które może znaleźć realne zastosowanie.

Dr Sebastian Cygert współpracuje również z Gdańskim Uniwersytetem Medycznym prowadząc badania nad zastosowaniami AI w medycynie, m. in. nad stworzeniem narzędzi pozwalających na wczesną wykrywania raka przy pomocy danych pochodzących z tzw. „płynnych biopsji”.

– Chciałbym aby modele AI były przede wszystkim użyteczne dla ludzi i w bezpośredni sposób wpływały na poprawę naszego dobrostanu. Zanim ten cel uda się zrealizować przed nami jeszcze dużo pracy, nie tylko po stronie naukowej, ale przede wszystkim po stronie inżynieryjnej. – podkreśla dr Cygert.

Konferencje AI

Konferencje pełnią niezwykle ważną rolę dla rozwoju AI jako dyscypliny naukowej. Jest to inna sytuacja niż w przypadku wielu pozostałych dziedzin naukowych, gdzie to czasopisma są domyślnym medium prezentowania odkryć naukowych. W ostatnich kilku latach konferencje AI bardzo dynamicznie się rozwijają. Np. na tegorocznej konferencji ICLR zaakceptowanych zostało 2260 artykułów podczas gdy zaledwie 7 lat temu tych artykułów było 10-krotnie mniej. Wraz z liczbą uczestników rośnie też zainteresowanie czołowych firm AI uczestniczeniem w konferencjach tego typu. 

– Jeszcze niedawno publikacje z polskich ośrodków naukowych rzadko miały okazję być prezentowane na wiodących konferencjach AI. W ostatnich kilku latach nastąpiła jednak wyraźna poprawa i powoli nasze uczelnie stają się rozpoznawalne. Moim marzeniem jest, aby na Politechnice Gdańskiej powstał zespół, który będzie w stanie regularnie publikować na tego typu konferencjach. Pozwoli to na zbudowanie „marki naukowej” oraz zwiększyć zainteresowanie współpracą ze strony przemysłu. – dodaje naukowiec.

Przeczytaj artykuł 

868 wyświetleń