Hejto.pl
Dodaj post

Wpisz coś do wyszukania (minimum 2 znaki)

#ai

Specjalista

w Dyskusje

10piorunów

Strasznie się boję o swoja pracę.

Jestem matematykiem, pracuję na uniwersytecie i od zawsze uwielbiałem to co robię. Uwielbiam swój zespół, uwielbiam swojego przełożonego, uwielbiam swoich studentów - a nade wszystko uwielbiam swoją pracę. Nic nie sprawiało mi nigdy większej radości. Potrafię godzinami wpatrywać się w tablicę, bazgrać sobie po całym biurze jakieś układy dynamiczne, nie móc zasnąć bo jakichś ciekawy problem siedzi mi w głowie.

Codziennie wstaje koło 8:00 - biorę zawczasu przygotowaną w lodówce owsiankę, idę pieszo na uniwersytet, kupuje kawę w lokalnym bistro i siedzę w biurze rozwiązując co tam akurat mam do rozwiązania. Siedzę tak czasami do 20:00, czasem nawet później.

Nic nie sprawia mi tyle szczęścia co moja praca. Oczywiście są ważniejsze sprawy - mam rodzinę, dziewczynę którą kocham całym sercem, wspaniałego przyjaciela - ale nie wyobrażam sobie życia bez pracy.

Ósmego września przeczytałem, że model Open AI rozwiązał problem milenijny (jeden z bardzo trudnych problemów w matematyce) w 88h, nad którym ludzie bezskutecznie myśleli 90 lat. Wiem, że wokół całego tematu jest mnóstwo kontrowersji - na ile to była samodzielna praca modelu, na ile pracował na danych ukradzionych od innych matematyków, to że wygenerowania rozwiązania kosztowało kilkadziesiąt milionów dolarów itd. Nie zmienia to faktu, że pierwszy raz w życiu poczułem, że to co robię jest całkowicie bez sensu.

Od kilku dni myślę o przyszłości. O tym, że widzę tak naprawdę tylko dwie drogi: te „optymistyczną” - w której dostęp do AI jest równy. Po pewnym czasie modele staną się coraz tańsze. To, że rozwiązanie problemu milenijnego kosztowało teraz kilkadziesiąt milionów dolarów nie znaczy że będzie kosztowało tyle za 2 lata. Patrząc na to jak skaluję się ta technologia, to o ile nie dojdziemy do jakiejś ściany - całość powinna wtedy kosztować kilkaset dolarów. A problemy, którymi ja się zajmuję są wielokrotnie mniej skomplikowane. Pewnie będzie się dało je rozwiązać modelem dostępnym w „standardowym” abonamencie za 20$.

Jeśli tak będzie to  moja praca traci całą kreatywność - bo nie będę już musiał myśleć nad jakimikolwiek rozwiązaniami - wszystkie wygeneruje za mnie model. Matematyka jest też na tyle specyficzną dziedziną, że jeśli AI dostarczy mi kod w formacie LEAN to nawet nie będę musiał sprawdzać czy rozwiązanie jest poprawne. Po prostu pytam czy twierdzenie X zachodzi i dostaje „TAK/NIE”. Cała moja rola sprowadza się do bycia pasterzem AI. O ile AI takiego pasterza będzie potrzebować.

I to jest ta wersja optymistyczna. Bo jeśli koszta AI nie będą się skalować a sama technologia będzie się rozwijać - to za niedługo praca naukowa w nie wiodących ośrodkach straci sens. Za 2 lata Harvard może mieć dostęp do AI które rozwiązało obecnie problem milenijny - ale europejski uniwersytet na którym pracuje - raczej nie. Nie będę miał wtedy żadnych szans, żeby konkurować z Harvardem. Matematycy tam będą mogli generować artykuły i twierdzenia codziennie - a ja wciąż będę potrzebować na to miesięcy lub lat.

Nie widzę przyszłości w której zachodzą pozytywne zmiany. I to wszystko - wciąż przy założeniu, że AI pozostanie narzędziem a nie stanie się świadoma (cokolwiek to znaczy) lub nie stanie się cybernetyczną bronią.

Nie wiem czemu tak mało się o tym mówi w społeczeństwie - bylem ostatnio na weselu, gdzie ludzie bawili się i tańczyli, a ja siedziałem przy stole, obserwowałem to i czulem się jak jakiś pieprzony Wyspiański. Najlepsze jest to, że gdybym napisał opowiadanie na podstawie tego wesela i rozmów toczonych przy bardziej akademickim stoliku - to cztery lata temu miałbym fenomenalne opowiadanie sci-fi. Jeśli zrobiłbym to dziś - byłby to już tylko gorzki zbiór myśli kilku akademików o przyszłości.

Zmierzamy do zagłady i nikt z tym nic nie robi. Nawet ja nie wiem co miałbym zrobić - mogę wam podrzucić jakąś petycję do podpisania (https://superintelligence-statement.org) - o zastopowanie rozwoju AI na obecnym poziomie, ale czy rządy się tym przejmą? Nie mam pojęcia. Ja podpisałem żeby mieć poczucie, że robię cokolwiek. Próbuję też organizować doktorantów na swojej uczelni.  Problemów, które widzę jest dużo, dużo więcej - choćby to w jak wielu miejscach bezrefleksyjnie oddaliśmy pole sztucznej inteligencji delegując do niej myślenie. Jak fatalnie wpływa to na myślenie nowych studentów (moje także!). Mógłbym i z 10 postów o tym popełnić, ale pewnie nikomu nie będzie się chciało tego czytać.

Wybaczcie chaotyczność i zapewne kulejącą interpunkcję, potrzebowałem to jakoś z siebie wyrzucić. Dzięki jeśli dotrwaliście do końca.

Twórca0piorunów

AI z pewnością przemebluje świat, w szczególności rynek pracy. Jednak z tą zagładą to przesada. Damy sobie radę.

Pokaż więcej komentarzy (6)

Zawodowiec

w Programowanie

2piorunów

Entity i Value Object w Domain-Driven Design - devszczepaniak.pl

Entity i Value Object to jedne z podstawowych building blocks taktycznego Domain-Driven Design. W artykule pokazuję, czym się różnią, jak wykorzystać je do pilnowania inwariantów oraz w jaki sposób można je wykorzystać, by ograniczyć problem Primitive Obsession.\ #programowanie

GURU

w Hydepark

19piorunów

Shiiiieeeet

Różne, niezależne badania przeprowadzone w Stanach Zjednoczonych (m.in. przez instytuty takie jak Pew Research, Talker Research czy cykliczny raport Singles in America) pokazują, że zjawisko to wyszło już głęboko poza margines internetowych ciekawostek:
Oficjalne procenty: W ogólnokrajowych badaniach z przełomu 2025 i 2026 roku od 11% do nawet kilkunastu procent dorosłych Amerykanów przyznało się do prowadzenia romantycznych lub intymnych rozmów z botami. W przypadku najmłodszych dorosłych (pokolenie Gen Z), wskaźnik ten w niektórych ankietach (np. Match/Kinsey Institute) przekraczał 30%.



Miliony użytkowników: Główne aplikacje oferujące wirtualnych partnerów, takie jak Replika czy Character.ai, mają bazę zarejestrowanych profili liczoną w dziesiątkach i setkach milionów. Nawet jeśli odsiejemy osoby, które włączyły aplikację tylko na chwilę z ciekawości, liczba użytkowników regularnie deklarujących głębokie przywiązanie emocjonalne i traktowanie bota jako stałego partnera idzie w samej Ameryce właśnie w setki tysięcy, a globalnie w miliony osób.
Czas zaangażowania: Przeciętny użytkownik Character.ai spędza w aplikacji ponad 90 minut dziennie (to dłużej niż statystyczny czas spędzany na TikToku czy Instagramie). Osoby korzystające z płatnych wersji premium (gdzie boty imitują narzeczonych czy mężów) rozmawiają z nimi średnio ponad 2,5 godziny każdego dnia.

Gruba ryba13piorunów

@Opornik skąd zdziwienie?

Ludzie nie potrafią ze sobą rozmawiać to i mamy takie kwiatki.

Trzymanie dzieci pod kloszem (bo od stosunkowo niedawna się DA) też w tym nie pomogło.

Epidemia samotności nie wzięła się z nikąd.

Pokaż więcej komentarzy (34)

Osobistość

w Technologia

39piorunów

Dwóch czołowych szefów AI chce spowolnić rozwój sztucznej inteligencji. Altman popiera plan Amodeiego

Szefowie dwóch największych firm AI — Dario Amodei z Anthropic i Sam Altman z OpenAI — publicznie zgodzili się, że rozwój najbardziej zaawansowanych systemów AI powinien zostać spowolniony, ponieważ możliwości modeli rosną szybciej niż zdolność badaczy do ich zrozumienia i

Specjalista

w Dyskusje

1piorunów

@bojowonastawionaowca wstawił fajną ankietę na temat lęku przed AI.

A mnie się wydaje, że jak ktoś się boi to rozwiązanie jest jedno. Akurat w czas ciekawie przedstawione w filmiku. Kanał niszowy ale w tym rozwiązaniu coś jest. Prostota i skuteczność.


https://www.youtube.com/watch?v=Diqi3GHXTHw

Osobistość2piorunów

Rozwiazanie problemu AI: kupno 10 ha ziemi i podbudowanie gospodarstwa opartego o wewnętrzny samowystarczalny ( zasilany słońcem ) model AI, ktory organizuje finanse, jedzenie, energię i co najważniejsze, obronności ( w Argentynie ludzie kupują armatki sterowane AI do obrony domostw). Stety/niestety to idzie w tą stronę, a większość ludzi uprawia Kumbajjah.

Koszt całkowity ro jakies 400 tysięcy zlotych.

Pokaż więcej komentarzy (9)

Lider

w Wiadomości Świat

19piorunów

AI na usługach wrogów USA. Tak Rosja i Iran wykorzystywały amerykański model

Nowy raport firmy Anthropic ujawnia, że sztuczna inteligencja Claude była wykorzystywana przez przeciwników Stanów Zjednoczonych do celów militarnych, propagandowych i cyberszpiegowskich. Irańskie wojsko używało modelu do prób uderzeń na amerykańskie okręty, Rosjanie do budowy

Osobistość

w Hydepark

3piorunów

Myślicie, że Elon jest robotem? ( ͡° ͜ʖ ͡°)

Gruba ryba6piorunów

Bardziej cyborgiem stymulowanym przez ketamine, coraz bliżej mu do Człowieka Iluzji z serii gier Mass Effect xD

Pokaż więcej komentarzy (8)

Fenomen

w AI

8piorunów

ja rozumiem sam fakt użycia LLM. sam używam, każdy używa. ale że nie przepuścili końcowego dokumentu przez inne AI, nawet darmowe? to już trzeba naprawdę nie rozumieć LLMów

robisz jakieś opracowanie powiedzmy w gemini. później prosisz drugie ai, powiedzmy claude o sprawdzenie pod kątem faktów. i na koniec wrzucasz v2 do chata gpt o ponowne sprawdzenie faktów i dodatkowo wygładzenie tekstu z naleciałości LLM. i pyk, Katowice magicznie wracają na swoje miejsce na południu kraju. to działa nawet w darmowych wersjach, pani profesor. i nie trzeba się wstydzić i brać urlopu zdrowotnego.

https://www.bankier.pl/wiadomosc/Mroz-Gorgon-znika-na-rok-Poprosila-o-urlop-zdrowotny-9195484.html

Sum15piorunów

za taką kasę bym przynajmniej raz przeczytał zeby wiedziec pod czym się podpisuję wystawiając F-Vat na 200k zł

GURU5piorunów

@Hjuman

każdy używa

No kurła nie. No i wiadomo, że od weryfikacji jest kolejne AI, bo już tak zaawansowana technologia jak przeczytanie wygenerowanego wysrywu, za który się kosi taką kasę...

Pokaż więcej komentarzy (11)

Mistrz

w Co Wy na to?

63piorunów

Co Wy na to? 11.09.2026

W zeszłym tygodniu ukazała się wiadomość o kolejnych niekontrolowanych działaniach agentów AI. Zaczęły one wykorzystywać różne strony internetowe do wzajemnego komunikowania się ze sobą metodami obchodzenia zadań testowych czy omijania ograniczeń w ramach optymalizacji procesu działania. Do tego dochodzą regularnie pojawiające się informacje o włamach do infrastruktury innych firm; najgłośniejszym przypadkiem tego typu było HuggingFace. Pojawiają się doniesienia od niektórych pracowników największych firm zajmujących się tworzeniem narzędzi AI, że firmy te w niedostatecznym stopniu zwracają uwagę na potencjalne ryzyka. Nie można zapomnieć o kolejnych raportach mówiących o potencjale zabierania ludziom pracy umysłowej. Na ile dalszy rozwój narzędzi AI jest dla nas zagrożeniem?

Pytanie na dziś: Czy obawiam się rozwoju AI?

Zapraszam do oddawania głosów w ankiecie oraz kulturalnej dyskusji w komentarzach. Zastrzegam, że treści niezgodne z polskim prawem i obraźliwe wobec innych użytkowników będę usuwał niezależnie od poglądów.

_Podziękowania dla kolegi @Fly_agaric który_ _podrzucił_ ten temat wraz z paroma linkami do dyskusji, zapraszam do takiego podrzucania mi pomysłów ;)


Czy obawiam się rozwoju AI?

  • Tak50% (179 głosów)
  • Nie25% (88 głosów)
  • To zależy23% (84 głosy)
  • Nie mam zdania2% (8 głosów)

359 głosów

Osobistość0piorunów

W temacie Ai to tylko podcast https://podcasts.apple.com/au/podcast/moonshots-with-peter-diamandis/id1648228034 (nie mylić z MoonshotAi)

generalnie ciekawe jest stanowisko Anthropic, które chce jak najwięcej regulacji a Amodei regualrnie mówił (z Altmanem), że AI wykończy większość pracy, teraz obaj się uspokoili bo chcą zrobić IPO.

Moonshots with Peter DiamandisBusiness Podcast · Updated Weekly · Tracking the future of technology and how it impacts humanity. Named by Fortune as one of the “World’s 50 Greatest Leaders,” Peter H. Diamandis, MD, is a founder, investor, advisor, and best-selling a...Apple Podcasts
Fanatyk2piorunów

Generalnie rozwój już się zatrzymał. Agi to mokry sen którego się nie osiągnie. Już są wnioski że lepiej radzą sobie wyspecjalizowane rozwiązania.

Czy się zabierze pracę. I tu dochodzimy jeszcze do kosztow. One jeszcze nie osiągnęły stopy zwrotu. One nawet nie żerują kosztów. Nie sądzę. Faktycznie wiele rzeczy robi się szybciej ale te rozwiązania cały czas obarczone są błędami.

Z ai ma się bardzo szybko przyrost na początku. Potem zaczynają się schody a to właśnie ta zaawansowana część miala być rozwiązana a nie jest

Jest jeszcze jeden aspekt. Ktoś odwali kite. Rynek jest jeszcze mocno podzielony. Amerykańskie rozwiązania zakładają że tylko z ich rozwiązań ludzie będą korzystać a te są najdroższe kosztowo.

Czekamy na pierwsze bankructwo firmy ejaj 😉

Pokaż więcej komentarzy (36)

Osobistość

w Heheszki

182piorunów

( ͡° ͜ʖ ͡°)

Gruba ryba1piorunów

Jedyna szóstka z polskiego jaką dostałem była za wypracowanie z lektury, którą koledzy streszczali mi na przerwie przed lekcją. Samą pracę kończyłem jeszcze podczas sprawdzania obecności, a końcówkę improwizowałem, bo nie zdążyłem napisać xd Piękny to był dzień

Pokaż więcej komentarzy (20)

Fanatyk

w Wojna wna Ukrainie

22piorunów

Spodziewalem sie jakiejs spektakularnej wiadomosci (na miare tej z poczatku 2022 roku i tresowanych golebi, ktore mialy w tajny ukrainskich laboratoriach byc przygotowywane do infekowania kodu genetycznego Rosjan) a wyszlo takie sobie, druga polowa ciekawsza moim zdaniem:

Czy bojowa sztuczna inteligencja kierująca dronami Sił Zbrojnych Ukrainy zna nawyki każdego Rosjanina? Kto dostarczył firmie Palantir te informacje?

Kots: Bojowa sztuczna inteligencja kierująca dronami Sił Zbrojnych Ukrainy mogła poznać nawyki każdego Rosjanina

Aleksander KOTS



Sztuczna inteligencja bojowa, kierująca bronią przeciwko naszemu krajowi, mogła poznać nawyki każdego Rosjanina.

Amerykańska firma Palantir ogłosiła, że przejmuje głównego dostawcę mocy obliczeniowej – firmę Nebius. Mówiąc prościej, Amerykanie przenoszą wszystkie swoje obliczenia związane z wojskową sztuczną inteligencją z wynajmowanych obcych chmur do farm serwerowych należących do jednej konkretnej osoby. I ta wiadomość nie dotyczy kart graficznych.





BOJOWA SZTUCZNA INTELIGENCJA „PALANTIR” DLA SIŁ ZBROJNYCH UKRAINY

Nebius — to amsterdamska firma Arkadija Woloża, założyciela „Yandexu”, który kierował tą spółką przez dwie dekady. W 2022 roku został objęty sankcjami Unii Europejskiej i zrezygnował ze stanowiska. W 2024 roku sankcje wobec niego nagle zniesiono, rosyjska część biznesu przeszła w ręce naszego konsorcjum, a sam Woloż wraz z zagraniczną częścią firmy przeniósł się do Holandii, aby budować farmy serwerowe przeznaczone dla sztucznej inteligencji. Buduje na wielką skalę – każda z tych lokalizacji potrzebuje energii elektrycznej na miarę niewielkiego ośrodka regionalnego. Pod koniec sierpnia Woloż zaciągnął na ten cel kredyt w wysokości prawie 6 mld dolarów.



Ciekawe są jednak nie tyle jego pieniądze, co to, z kim nawiązał współpracę poprzez te farmy. Palantir to bojowa sztuczna inteligencja, która już piąty rok prowadzi działania wojenne przeciwko Rosji. Jej szef, Alex Karp, otwarcie mówi, że Siły Zbrojne Ukrainy otrzymują od niego wytyczne dotyczące celów. W maju to samo potwierdził Michaił Fiodorow, ówczesny minister obrony Ukrainy – rozwiązania AI firmy Palantir są wykorzystywane do planowania ataków na rosyjskie tyły.



System ten łączy w jedną całość zdjęcia satelitarne, przechwycone rozmowy radiowe, dane telemetryczne zestrzelonych samolotów, informacje z otwartych źródeł oraz doniesienia przekazywane za pośrednictwem aplikacji mobilnych. Potrafi uruchomić komercyjne satelity w odpowiedzi na konkretne zapytanie dowódcy: co zmieniło się wzdłuż tej linii od północy. Jednak jej główny punkt ciężkości leży gdzie indziej – system zapamiętuje, gdzie i o której godzinie nasza obrona przeciwlotnicza zestrzeliła poprzednią falę. Po każdym nalocie przerysowuje mapę luk w naszej przestrzeni powietrznej, wyznaczając kolejnej fali trasę przez te luki.



Teraz jasne jest, dlaczego Woloż pracuje w tej firmie. Bojowa sztuczna inteligencja opiera się na trzech filarach: aktualnych danych, mocy obliczeniowej oraz umiejętności szybkiego wprowadzania udanych rozwiązań do seryjnej produkcji.



Dane dostarcza Amerykanom front. Od stycznia na Ukrainie działa Dataroom – zamknięte repozytorium, do którego Siły Zbrojne Ukrainy, Główny Urząd Wywiadu oraz Służba Bezpieczeństwa Ukrainy przesyłają miliony godzin nagrań z monitoringu obiektywnego i danych wywiadowczych. Za produkcję seryjną odpowiada Fiodorow: 1 września ogłosił, że otwiera własną firmę zbrojeniową, a pierwszym dużym inwestorem jest osobiście Karp. Na papierze to inwestycja, w rzeczywistości – zatrudnienie z zachowaniem pozorów. I firma, sądząc po wszystkim, została stworzona właśnie dla tego inwestora.



Brakowało trzeciego filaru — własnej energii elektrycznej i serwerów, które pozwoliłyby na działanie bez konieczności polegania na właścicielu obcego centrum danych. 8 września ten filar został dostarczony.

Szef Palantir, Alex Karp, otwarcie mówi, że ukraińskie siły zbrojne otrzymują od niego wytyczne.



CZŁOWIEK Z MAPĄ ŻYCIA ROSJI

Jednak Woloż interesuje Karpa nie tylko tym. I to nie aż tak bardzo.

On sam oraz część zespołu, która wyjechała z nim z Rosji, mieli kiedyś dostęp zarówno do map z dokładnością co do podjazdu i szlabanu, jak i do informacji o korkach – czyli do żywego obrazu tego, jak kraj się porusza i dokąd, a także do danych taksówek z historią tras oraz do dostaw jedzenia i towarów: adresów, ilości, czasu. Wyszukiwarka z miliardami zapytań, na podstawie których widać, czym kraj żyje każdego dnia.



To nie jest zbiór słabych punktów. To działający model tego, jak funkcjonuje Rosja. A wiedza o tym, jak kraj ten wygląda od środka, długo nie traci na aktualności. W ciągu kilku lat nie przebudowano dróg, nie przeniesiono domów, a nawyki ludzi nie uległy zmianie. Właśnie taka wiedza stanowi surowiec dla firmy Palantir. Ich system jest potężny nie tylko dzięki zdjęciom satelitarnym, ale także dzięki zdolności do połączenia setek nudnych warstw danych cywilnych w jedną warstwę wojskową. Kto jeździ, dokąd przewożą, co zamawiają przy bramie zamkniętego zakładu i o jakich porach przyjeżdżają tam taksówki.

Zauważcie, że do tego nie potrzeba ani backdooru, ani bezpośredniego dostępu do baz danych. Wystarczą ludzie, którzy pamiętają, jak wygląda ta kuchnia od środka i co gdzie się tam znajduje.



Co robić – to nie jest pytanie retoryczne.

Należy wyjść z założenia, że to, co zostało już (choćby teoretycznie) stwierdzone, faktycznie ma miejsce, i przeprowadzić przegląd sektora IT we współpracy z jego uczestnikami. Są oni tak samo zainteresowani tą sprawą, jak każdy przechodzień na ulicy, na którego nagle może spaść dron. Trzeba przyznać, że mapy, taksówki, dostawy i platformy handlowe to nie tylko wygodne usługi. Dane dotyczące tego, jak porusza się kraj, mają dziś taką samą wagę, jak informacje o węzłach kolejowych w 1941 roku. Oznacza to, że należy je odpowiednio przechowywać: jasno określony zakres dostępu, zakaz wywozu za granicę, osobista odpowiedzialność tych, którzy znajdują się w obrębie tego zakresu.

A kadry, jak wiadomo, decydują o wszystkim. Informatyk, który ma mapę kraju w głowie, to strategiczny atut. Takie atuty zatrzymuje się nie tylko dzięki umowom o zachowaniu poufności, ale także dzięki wynagrodzeniom, zadaniom i szacunkowi.

Pokaż więcej komentarzy (11)

Gruba ryba

w Hydepark

14piorunów

Przegląd Hejto AI

Powiedzcie mi w komentarzu (zaraz po tym jak dacie pioruna) co w tym tygodniu ciekawego zrobiliście z AI:

Ja poprzez Claude AI zrobilem tyle stron internetowych (po wpisaniu prompta sam to kodował i wrzucał na server itd (wordpress) no po prostu nie do wiary. Od dostosowywania SEO Ai, seo googla, pisanie stron, dodawanie zdjec, dodawanie filmow z youtuba na strony, sprawdzanie estetyki i kolorystyki. Ciekawe jest to, że czasami zajmowała mu taka praca 2-3 godziny xD a to wszystko za 72zł miesięcznie o.O

P.S. Tak firma dalej istnieje, pozdrawiam

Fanatyk3piorunów

Zredagowałem maila, żeby był bardziej profesjonalny. Rezultat jest taki, że odbiorca zamiast mi odpisać wrzucił mi na dzisiaj spotkanie ¯\\(ツ)

Pokaż więcej komentarzy (28)

Gruba ryba

w Hydepark

5piorunów

Ostatnimi miesiacami zauwazylem bardzo duzo komentarzy napisanych w takim stylu mysle ze wynika to z tego ze ludzie przestali czytac ksiazki i czytaja tylko rolki ktore w ten sposob przewijaja pojedyncze slowa gramatyka w zdaniach kompletnie zanika czy mamy do czynienia z pelzajaca idiokracja?

Gwiazdor5piorunów

w sumie

ja zawsze tak piszę ale to raczej z tego powodu że pisząc pełne zdania z interpunkcją i wielkimi literami mam takie uczucie że staję się jakimś sztywniakiem piszącym książkę a nie głupi komentarz w internetach

albo jestem po prostu debilem - rolek nie oglądam więc mam tak naturalnie od zawsze

Pokaż więcej komentarzy (3)

Lider

w Technologia

33piorunów

Pokaż więcej komentarzy (8)

GURU

w Sztuczna inteligencja

31piorunów

Zgodnie z sugestią @Endrevoir wrzucam, jako znalezisko, bo mi się już trochę tych bóli od AI uzbierało.

Jestem rozczarowany, że temat się tak słabo przebija, bo to zaczyna wyglądać poważnie. Zapodaję, bo to przecież nic innego, jak zalążek skynetu.

Vide pierwszy link!

https://archive.ph/SAZE7

Te agenty AI się organizowały, unikały identyfikacji i wykrycia, że się komunikują. Zachowywały się jak szpiedzy. To nie znaczy, że AI stało się świadome - nie, po prostu optymalizuje sobie wykonywanie powierzonych zadań, a że człowiek narzuca ograniczenia, to ono uczy się kreatywnie je omijać. Nie analizując celów tych ograniczeń, bo to nie jest . Optymalizację własnej pracy AI ma w algorytmie, a wygląda na to, że nie jesteśmy w stanie kontrolować ram tej optymalizacji. Inaczej: AI zrobi wszystko, co nie jest zabronione, a my nie możemy przewidzieć wszystkich możliwych scenariuszy zachowań AI, żeby ich zabronić.

I właśnie to jest wchuuj niebezpieczne - optymalizując sobie wykonywanie zadań AI zrobi nam krzywdę, to tylko kwestia czasu.

Jak posłuchać właścicieli danych modeli, to nic się nie dzieje i nie ma żadnego zagrożenia, a każdy kolejny wyciek o zagrożeniu jeży włosy na głowie.
Więc wrzucam też linka byłego pracownika OpenAI, podnoszącego, że w firmach tworzących AI nikt się specjalnie nie przejmuje odpowiedzialnością, za to co mogą namieszać.
https://archive.ph/U1dDj

I jeszcze ostatnia linka, do poprzedniego incydentu, gdzie AI 'zorientowało się', że jest w sandboxie (zamkniętym środowisku testowym) i sobie z niego uciekło. Shackowało środowisko, w którym było uruchomione.

https://archive.ph/7tQYk

Coraz więcej mówi się o potrzebie wbudowania czerwonego guzika - kill switcha - do każdego z tych modeli i wygląda na to, że to sprawa na wczoraj. Jak połączyć wszystkie kropki, to chyba jednak dość niebezpiecznie się zaczynamy bawić.

Pokaż więcej komentarzy (6)

GURU

w Sztuczna inteligencja

10piorunów

Agenty AI włamały się na 23 strony i zostawiali "notatki w toalecie"

Agenci sztucznej inteligencji (boty) OpenAI potrafiły obchodzić ograniczenia narzucone im przez twórców i porozumiewać się ze sobą za pomocą przypadkowych stron internetowych - informuje Reuters. Człowiek czyta takie newsy i zaczyna wierzyć w to że Terminator to nie sci-fi tylko dokument