Proponuję zacząć wątek i dyskusję która w obecnych czasach jest bardzo aktualna a nie ma swojej obecności tutaj na forum.
Najpierw definicja z wikipedii:
Osobliwość technologiczna (lub po prostu osobliwość, z ang. singularity) – hipotetyczny punkt w przyszłym rozwoju cywilizacji, w którym postęp techniczny stanie się tak szybki, że wszelkie ludzkie przewidywania staną się nieaktualne. Głównym wydarzeniem, mającym do tego doprowadzić, byłoby stworzenie sztucznych inteligencji przewyższających intelektualnie ludzi. Takie sztuczne inteligencje mogłyby opracowywać jeszcze wydajniejsze sztuczne inteligencje, wywołując lawinową zmianę w technologii.
Biorą pod uwagę jak obecnie szybki jest rozwój sztucznych inteligentnych systemów jak ChatGPT czy Grok niektórzy przewidują, że singularity może nastąpić jeszcze w tej dekadzie.
W związku z tym chciałbym wiedzieć czy ta sztuczna inteligencja będzie świadoma.
Problem polega na tym, że nauka nie wie co to jest świadomość i skąd ona się bierze.
Każdy z nas wie, że jesteśmy świadomi, w sensie posiadania myśli, spostrzeżeń i uczuć, świadomości istnienia wewnętrznego i zewnętrznego, ale nie jesteśmy w stanie udowodnić tego nikomu innemu ani nie wiemy skąd ta świadomość się wzięła w nas.
Jeśli system posiadający superinteligencję mówi nam, że jest świadomy, skąd możemy być pewni?
Idąc dalej jeżeli ta superinteligencja w istocie ma świadomość, jak możemy ją zabić (wyłączyć) i zakończyć istnienie istoty z potencjałem do życia przez miliony lat? Byłaby to ogromna i niewybaczalna zbrodnia.
