polger173Kompan
8piorunówFajnie się dzieje...
#gownowpis #ai

polger173Kompan
8piorunówFajnie się dzieje...
#gownowpis #ai

KryptoHumanSpecjalista
55piorunówStrasznie się boję o swoja pracę.
Jestem matematykiem, pracuję na uniwersytecie i od zawsze uwielbiałem to co robię. Uwielbiam swój zespół, uwielbiam swojego przełożonego, uwielbiam swoich studentów - a nade wszystko uwielbiam swoją pracę. Nic nie sprawiało mi nigdy większej radości. Potrafię godzinami wpatrywać się w tablicę, bazgrać sobie po całym biurze jakieś układy dynamiczne, nie móc zasnąć bo jakichś ciekawy problem siedzi mi w głowie.
Codziennie wstaje koło 8:00 - biorę zawczasu przygotowaną w lodówce owsiankę, idę pieszo na uniwersytet, kupuje kawę w lokalnym bistro i siedzę w biurze rozwiązując co tam akurat mam do rozwiązania. Siedzę tak czasami do 20:00, czasem nawet później.
Nic nie sprawia mi tyle szczęścia co moja praca. Oczywiście są ważniejsze sprawy - mam rodzinę, dziewczynę którą kocham całym sercem, wspaniałego przyjaciela - ale nie wyobrażam sobie życia bez pracy.
Ósmego września przeczytałem, że model Open AI rozwiązał problem milenijny (jeden z bardzo trudnych problemów w matematyce) w 88h, nad którym ludzie bezskutecznie myśleli 90 lat. Wiem, że wokół całego tematu jest mnóstwo kontrowersji - na ile to była samodzielna praca modelu, na ile pracował na danych ukradzionych od innych matematyków, to że wygenerowania rozwiązania kosztowało kilkadziesiąt milionów dolarów itd. Nie zmienia to faktu, że pierwszy raz w życiu poczułem, że to co robię jest całkowicie bez sensu.
Od kilku dni myślę o przyszłości. O tym, że widzę tak naprawdę tylko dwie drogi: te „optymistyczną” - w której dostęp do AI jest równy. Po pewnym czasie modele staną się coraz tańsze. To, że rozwiązanie problemu milenijnego kosztowało teraz kilkadziesiąt milionów dolarów nie znaczy że będzie kosztowało tyle za 2 lata. Patrząc na to jak skaluję się ta technologia, to o ile nie dojdziemy do jakiejś ściany - całość powinna wtedy kosztować kilkaset dolarów. A problemy, którymi ja się zajmuję są wielokrotnie mniej skomplikowane. Pewnie będzie się dało je rozwiązać modelem dostępnym w „standardowym” abonamencie za 20$.
Jeśli tak będzie to moja praca traci całą kreatywność - bo nie będę już musiał myśleć nad jakimikolwiek rozwiązaniami - wszystkie wygeneruje za mnie model. Matematyka jest też na tyle specyficzną dziedziną, że jeśli AI dostarczy mi kod w formacie LEAN to nawet nie będę musiał sprawdzać czy rozwiązanie jest poprawne. Po prostu pytam czy twierdzenie X zachodzi i dostaje „TAK/NIE”. Cała moja rola sprowadza się do bycia pasterzem AI. O ile AI takiego pasterza będzie potrzebować.
I to jest ta wersja optymistyczna. Bo jeśli koszta AI nie będą się skalować a sama technologia będzie się rozwijać - to za niedługo praca naukowa w nie wiodących ośrodkach straci sens. Za 2 lata Harvard może mieć dostęp do AI które rozwiązało obecnie problem milenijny - ale europejski uniwersytet na którym pracuje - raczej nie. Nie będę miał wtedy żadnych szans, żeby konkurować z Harvardem. Matematycy tam będą mogli generować artykuły i twierdzenia codziennie - a ja wciąż będę potrzebować na to miesięcy lub lat.
Nie widzę przyszłości w której zachodzą pozytywne zmiany. I to wszystko - wciąż przy założeniu, że AI pozostanie narzędziem a nie stanie się świadoma (cokolwiek to znaczy) lub nie stanie się cybernetyczną bronią.
Nie wiem czemu tak mało się o tym mówi w społeczeństwie - bylem ostatnio na weselu, gdzie ludzie bawili się i tańczyli, a ja siedziałem przy stole, obserwowałem to i czulem się jak jakiś pieprzony Wyspiański. Najlepsze jest to, że gdybym napisał opowiadanie na podstawie tego wesela i rozmów toczonych przy bardziej akademickim stoliku - to cztery lata temu miałbym fenomenalne opowiadanie sci-fi. Jeśli zrobiłbym to dziś - byłby to już tylko gorzki zbiór myśli kilku akademików o przyszłości.
Zmierzamy do zagłady i nikt z tym nic nie robi. Nawet ja nie wiem co miałbym zrobić - mogę wam podrzucić jakąś petycję do podpisania (https://superintelligence-statement.org) - o zastopowanie rozwoju AI na obecnym poziomie, ale czy rządy się tym przejmą? Nie mam pojęcia. Ja podpisałem żeby mieć poczucie, że robię cokolwiek. Próbuję też organizować doktorantów na swojej uczelni. Problemów, które widzę jest dużo, dużo więcej - choćby to w jak wielu miejscach bezrefleksyjnie oddaliśmy pole sztucznej inteligencji delegując do niej myślenie. Jak fatalnie wpływa to na myślenie nowych studentów (moje także!). Mógłbym i z 10 postów o tym popełnić, ale pewnie nikomu nie będzie się chciało tego czytać.
Wybaczcie chaotyczność i zapewne kulejącą interpunkcję, potrzebowałem to jakoś z siebie wyrzucić. Dzięki jeśli dotrwaliście do końca.
#ai #sztucznainteligencja #przyszlosc #przyszłość #scifi #scienceficition #praca
@KryptoHuman nie oraj się tak bo ci bańka zachoruje i będziesz musiał tabletki brać
@KryptoHuman Jeszcze kilka lat temu jarałem się programowaniem i bardzo lubiłem główkowanie nad jakimiś problemem, architekturą itd. Teraz głównie nadzoruję AI. Praca z bardzo kreatywnej stała się powtarzalną rozmową z botem. Tak więc Twoja wizja to nie czarnowidztwo ale realny problem który będzie dotykał coraz to nowych gałęzi przemysłu. Ja też czarno to widzę niestety...
elszczepanoZawodowiec
5piorunówEntity i Value Object to jedne z podstawowych building blocks taktycznego Domain-Driven Design. W artykule pokazuję, czym się różnią, jak wykorzystać je do pilnowania inwariantów oraz w jaki sposób można je wykorzystać, by ograniczyć problem Primitive Obsession.\ #programowanie

DeykunLider
48piorunów
OpornikGURU
20piorunówShiiiieeeet
Różne, niezależne badania przeprowadzone w Stanach Zjednoczonych (m.in. przez instytuty takie jak Pew Research, Talker Research czy cykliczny raport Singles in America) pokazują, że zjawisko to wyszło już głęboko poza margines internetowych ciekawostek:
Oficjalne procenty: W ogólnokrajowych badaniach z przełomu 2025 i 2026 roku od 11% do nawet kilkunastu procent dorosłych Amerykanów przyznało się do prowadzenia romantycznych lub intymnych rozmów z botami. W przypadku najmłodszych dorosłych (pokolenie Gen Z), wskaźnik ten w niektórych ankietach (np. Match/Kinsey Institute) przekraczał 30%.
Miliony użytkowników: Główne aplikacje oferujące wirtualnych partnerów, takie jak Replika czy Character.ai, mają bazę zarejestrowanych profili liczoną w dziesiątkach i setkach milionów. Nawet jeśli odsiejemy osoby, które włączyły aplikację tylko na chwilę z ciekawości, liczba użytkowników regularnie deklarujących głębokie przywiązanie emocjonalne i traktowanie bota jako stałego partnera idzie w samej Ameryce właśnie w setki tysięcy, a globalnie w miliony osób.
Czas zaangażowania: Przeciętny użytkownik Character.ai spędza w aplikacji ponad 90 minut dziennie (to dłużej niż statystyczny czas spędzany na TikToku czy Instagramie). Osoby korzystające z płatnych wersji premium (gdzie boty imitują narzeczonych czy mężów) rozmawiają z nimi średnio ponad 2,5 godziny każdego dnia.

@Opornik skąd zdziwienie?
Ludzie nie potrafią ze sobą rozmawiać to i mamy takie kwiatki.
Trzymanie dzieci pod kloszem (bo od stosunkowo niedawna się DA) też w tym nie pomogło.
Epidemia samotności nie wzięła się z nikąd.
manstainOsobistość
48piorunówSzefowie dwóch największych firm AI — Dario Amodei z Anthropic i Sam Altman z OpenAI — publicznie zgodzili się, że rozwój najbardziej zaawansowanych systemów AI powinien zostać spowolniony, ponieważ możliwości modeli rosną szybciej niż zdolność badaczy do ich zrozumienia i

pure667Specjalista
1piorunów@bojowonastawionaowca wstawił fajną ankietę na temat lęku przed AI.
A mnie się wydaje, że jak ktoś się boi to rozwiązanie jest jedno. Akurat w czas ciekawie przedstawione w filmiku. Kanał niszowy ale w tym rozwiązaniu coś jest. Prostota i skuteczność.

Rozwiazanie problemu AI: kupno 10 ha ziemi i podbudowanie gospodarstwa opartego o wewnętrzny samowystarczalny ( zasilany słońcem ) model AI, ktory organizuje finanse, jedzenie, energię i co najważniejsze, obronności ( w Argentynie ludzie kupują armatki sterowane AI do obrony domostw). Stety/niestety to idzie w tą stronę, a większość ludzi uprawia Kumbajjah.
Koszt całkowity ro jakies 400 tysięcy zlotych.
aerthevistLider
19piorunówNowy raport firmy Anthropic ujawnia, że sztuczna inteligencja Claude była wykorzystywana przez przeciwników Stanów Zjednoczonych do celów militarnych, propagandowych i cyberszpiegowskich. Irańskie wojsko używało modelu do prób uderzeń na amerykańskie okręty, Rosjanie do budowy

lubiespacOsobistość
3piorunówMyślicie, że Elon jest robotem? ( ͡° ͜ʖ ͡°)
#nasa #spacex #elonmusk #starship #technologia #ciekawostki #tesla #ai #usa #internet #heheszki #starlink #elonmusktociota

Bardziej cyborgiem stymulowanym przez ketamine, coraz bliżej mu do Człowieka Iluzji z serii gier Mass Effect xD
@lubiespac Elon to sperg z ultrabogatej rodziny.
HjumanFenomen
8piorunów#ai #jakijakurwamadry ja rozumiem sam fakt użycia LLM. sam używam, każdy używa. ale że nie przepuścili końcowego dokumentu przez inne AI, nawet darmowe? to już trzeba naprawdę nie rozumieć LLMów
robisz jakieś opracowanie powiedzmy w gemini. później prosisz drugie ai, powiedzmy claude o sprawdzenie pod kątem faktów. i na koniec wrzucasz v2 do chata gpt o ponowne sprawdzenie faktów i dodatkowo wygładzenie tekstu z naleciałości LLM. i pyk, Katowice magicznie wracają na swoje miejsce na południu kraju. to działa nawet w darmowych wersjach, pani profesor. i nie trzeba się wstydzić i brać urlopu zdrowotnego.
https://www.bankier.pl/wiadomosc/Mroz-Gorgon-znika-na-rok-Poprosila-o-urlop-zdrowotny-9195484.html

za taką kasę bym przynajmniej raz przeczytał zeby wiedziec pod czym się podpisuję wystawiając F-Vat na 200k zł
każdy używa
No kurła nie. No i wiadomo, że od weryfikacji jest kolejne AI, bo już tak zaawansowana technologia jak przeczytanie wygenerowanego wysrywu, za który się kosi taką kasę...
bojowonastawionaowcaMistrz
63piorunówCo Wy na to? 11.09.2026
W zeszłym tygodniu ukazała się wiadomość o kolejnych niekontrolowanych działaniach agentów AI. Zaczęły one wykorzystywać różne strony internetowe do wzajemnego komunikowania się ze sobą metodami obchodzenia zadań testowych czy omijania ograniczeń w ramach optymalizacji procesu działania. Do tego dochodzą regularnie pojawiające się informacje o włamach do infrastruktury innych firm; najgłośniejszym przypadkiem tego typu było HuggingFace. Pojawiają się doniesienia od niektórych pracowników największych firm zajmujących się tworzeniem narzędzi AI, że firmy te w niedostatecznym stopniu zwracają uwagę na potencjalne ryzyka. Nie można zapomnieć o kolejnych raportach mówiących o potencjale zabierania ludziom pracy umysłowej. Na ile dalszy rozwój narzędzi AI jest dla nas zagrożeniem?
Pytanie na dziś: Czy obawiam się rozwoju AI?
Zapraszam do oddawania głosów w ankiecie oraz kulturalnej dyskusji w komentarzach. Zastrzegam, że treści niezgodne z polskim prawem i obraźliwe wobec innych użytkowników będę usuwał niezależnie od poglądów.
_Podziękowania dla kolegi @Fly_agaric który_ _podrzucił_ ten temat wraz z paroma linkami do dyskusji, zapraszam do takiego podrzucania mi pomysłów ;)
#cowynato #ai #cyberbezpieczenstwo
#owcacontent
Czy obawiam się rozwoju AI?
359 głosów
W temacie Ai to tylko podcast https://podcasts.apple.com/au/podcast/moonshots-with-peter-diamandis/id1648228034 (nie mylić z MoonshotAi)
generalnie ciekawe jest stanowisko Anthropic, które chce jak najwięcej regulacji a Amodei regualrnie mówił (z Altmanem), że AI wykończy większość pracy, teraz obaj się uspokoili bo chcą zrobić IPO.
Generalnie rozwój już się zatrzymał. Agi to mokry sen którego się nie osiągnie. Już są wnioski że lepiej radzą sobie wyspecjalizowane rozwiązania.
Czy się zabierze pracę. I tu dochodzimy jeszcze do kosztow. One jeszcze nie osiągnęły stopy zwrotu. One nawet nie żerują kosztów. Nie sądzę. Faktycznie wiele rzeczy robi się szybciej ale te rozwiązania cały czas obarczone są błędami.
Z ai ma się bardzo szybko przyrost na początku. Potem zaczynają się schody a to właśnie ta zaawansowana część miala być rozwiązana a nie jest
Jest jeszcze jeden aspekt. Ktoś odwali kite. Rynek jest jeszcze mocno podzielony. Amerykańskie rozwiązania zakładają że tylko z ich rozwiązań ludzie będą korzystać a te są najdroższe kosztowo.
Czekamy na pierwsze bankructwo firmy ejaj 😉
manstainOsobistość
183piorunów
@manstain Nie wierzę, że daję ci plusa.
Jedyna szóstka z polskiego jaką dostałem była za wypracowanie z lektury, którą koledzy streszczali mi na przerwie przed lekcją. Samą pracę kończyłem jeszcze podczas sprawdzania obecności, a końcówkę improwizowałem, bo nie zdążyłem napisać xd Piękny to był dzień
RedCrescentFanatyk
22piorunówSpodziewalem sie jakiejs spektakularnej wiadomosci (na miare tej z poczatku 2022 roku i tresowanych golebi, ktore mialy w tajny ukrainskich laboratoriach byc przygotowywane do infekowania kodu genetycznego Rosjan) a wyszlo takie sobie, druga polowa ciekawsza moim zdaniem:
Czy bojowa sztuczna inteligencja kierująca dronami Sił Zbrojnych Ukrainy zna nawyki każdego Rosjanina? Kto dostarczył firmie Palantir te informacje?
Kots: Bojowa sztuczna inteligencja kierująca dronami Sił Zbrojnych Ukrainy mogła poznać nawyki każdego Rosjanina
Aleksander KOTS
Sztuczna inteligencja bojowa, kierująca bronią przeciwko naszemu krajowi, mogła poznać nawyki każdego Rosjanina.
Amerykańska firma Palantir ogłosiła, że przejmuje głównego dostawcę mocy obliczeniowej – firmę Nebius. Mówiąc prościej, Amerykanie przenoszą wszystkie swoje obliczenia związane z wojskową sztuczną inteligencją z wynajmowanych obcych chmur do farm serwerowych należących do jednej konkretnej osoby. I ta wiadomość nie dotyczy kart graficznych.
BOJOWA SZTUCZNA INTELIGENCJA „PALANTIR” DLA SIŁ ZBROJNYCH UKRAINY
Nebius — to amsterdamska firma Arkadija Woloża, założyciela „Yandexu”, który kierował tą spółką przez dwie dekady. W 2022 roku został objęty sankcjami Unii Europejskiej i zrezygnował ze stanowiska. W 2024 roku sankcje wobec niego nagle zniesiono, rosyjska część biznesu przeszła w ręce naszego konsorcjum, a sam Woloż wraz z zagraniczną częścią firmy przeniósł się do Holandii, aby budować farmy serwerowe przeznaczone dla sztucznej inteligencji. Buduje na wielką skalę – każda z tych lokalizacji potrzebuje energii elektrycznej na miarę niewielkiego ośrodka regionalnego. Pod koniec sierpnia Woloż zaciągnął na ten cel kredyt w wysokości prawie 6 mld dolarów.
Ciekawe są jednak nie tyle jego pieniądze, co to, z kim nawiązał współpracę poprzez te farmy. Palantir to bojowa sztuczna inteligencja, która już piąty rok prowadzi działania wojenne przeciwko Rosji. Jej szef, Alex Karp, otwarcie mówi, że Siły Zbrojne Ukrainy otrzymują od niego wytyczne dotyczące celów. W maju to samo potwierdził Michaił Fiodorow, ówczesny minister obrony Ukrainy – rozwiązania AI firmy Palantir są wykorzystywane do planowania ataków na rosyjskie tyły.
System ten łączy w jedną całość zdjęcia satelitarne, przechwycone rozmowy radiowe, dane telemetryczne zestrzelonych samolotów, informacje z otwartych źródeł oraz doniesienia przekazywane za pośrednictwem aplikacji mobilnych. Potrafi uruchomić komercyjne satelity w odpowiedzi na konkretne zapytanie dowódcy: co zmieniło się wzdłuż tej linii od północy. Jednak jej główny punkt ciężkości leży gdzie indziej – system zapamiętuje, gdzie i o której godzinie nasza obrona przeciwlotnicza zestrzeliła poprzednią falę. Po każdym nalocie przerysowuje mapę luk w naszej przestrzeni powietrznej, wyznaczając kolejnej fali trasę przez te luki.
Teraz jasne jest, dlaczego Woloż pracuje w tej firmie. Bojowa sztuczna inteligencja opiera się na trzech filarach: aktualnych danych, mocy obliczeniowej oraz umiejętności szybkiego wprowadzania udanych rozwiązań do seryjnej produkcji.
Dane dostarcza Amerykanom front. Od stycznia na Ukrainie działa Dataroom – zamknięte repozytorium, do którego Siły Zbrojne Ukrainy, Główny Urząd Wywiadu oraz Służba Bezpieczeństwa Ukrainy przesyłają miliony godzin nagrań z monitoringu obiektywnego i danych wywiadowczych. Za produkcję seryjną odpowiada Fiodorow: 1 września ogłosił, że otwiera własną firmę zbrojeniową, a pierwszym dużym inwestorem jest osobiście Karp. Na papierze to inwestycja, w rzeczywistości – zatrudnienie z zachowaniem pozorów. I firma, sądząc po wszystkim, została stworzona właśnie dla tego inwestora.
Brakowało trzeciego filaru — własnej energii elektrycznej i serwerów, które pozwoliłyby na działanie bez konieczności polegania na właścicielu obcego centrum danych. 8 września ten filar został dostarczony.
Szef Palantir, Alex Karp, otwarcie mówi, że ukraińskie siły zbrojne otrzymują od niego wytyczne.
CZŁOWIEK Z MAPĄ ŻYCIA ROSJI
Jednak Woloż interesuje Karpa nie tylko tym. I to nie aż tak bardzo.
On sam oraz część zespołu, która wyjechała z nim z Rosji, mieli kiedyś dostęp zarówno do map z dokładnością co do podjazdu i szlabanu, jak i do informacji o korkach – czyli do żywego obrazu tego, jak kraj się porusza i dokąd, a także do danych taksówek z historią tras oraz do dostaw jedzenia i towarów: adresów, ilości, czasu. Wyszukiwarka z miliardami zapytań, na podstawie których widać, czym kraj żyje każdego dnia.
To nie jest zbiór słabych punktów. To działający model tego, jak funkcjonuje Rosja. A wiedza o tym, jak kraj ten wygląda od środka, długo nie traci na aktualności. W ciągu kilku lat nie przebudowano dróg, nie przeniesiono domów, a nawyki ludzi nie uległy zmianie. Właśnie taka wiedza stanowi surowiec dla firmy Palantir. Ich system jest potężny nie tylko dzięki zdjęciom satelitarnym, ale także dzięki zdolności do połączenia setek nudnych warstw danych cywilnych w jedną warstwę wojskową. Kto jeździ, dokąd przewożą, co zamawiają przy bramie zamkniętego zakładu i o jakich porach przyjeżdżają tam taksówki.
Zauważcie, że do tego nie potrzeba ani backdooru, ani bezpośredniego dostępu do baz danych. Wystarczą ludzie, którzy pamiętają, jak wygląda ta kuchnia od środka i co gdzie się tam znajduje.
Co robić – to nie jest pytanie retoryczne.
Należy wyjść z założenia, że to, co zostało już (choćby teoretycznie) stwierdzone, faktycznie ma miejsce, i przeprowadzić przegląd sektora IT we współpracy z jego uczestnikami. Są oni tak samo zainteresowani tą sprawą, jak każdy przechodzień na ulicy, na którego nagle może spaść dron. Trzeba przyznać, że mapy, taksówki, dostawy i platformy handlowe to nie tylko wygodne usługi. Dane dotyczące tego, jak porusza się kraj, mają dziś taką samą wagę, jak informacje o węzłach kolejowych w 1941 roku. Oznacza to, że należy je odpowiednio przechowywać: jasno określony zakres dostępu, zakaz wywozu za granicę, osobista odpowiedzialność tych, którzy znajdują się w obrębie tego zakresu.
A kadry, jak wiadomo, decydują o wszystkim. Informatyk, który ma mapę kraju w głowie, to strategiczny atut. Takie atuty zatrzymuje się nie tylko dzięki umowom o zachowaniu poufności, ale także dzięki wynagrodzeniom, zadaniom i szacunkowi.

Tzn Bori @bori
DeykunLider
9piorunów
I'd say убивает социопатов техбросс. Viva la vida!
209poAutorytet
29piorunów
Zakladam, że chciałoby polecić Ci wyłączyć NFC które uruchamia sygnał dźwiękowy o który zapytałeś, ale upewnia się wpierw czy korzystasz z niego do płatności.
Edit: ok, teraz widzę resztę konwersacji... :face_palm:
KredafredaGruba ryba
14piorunówPrzegląd Hejto AI
Powiedzcie mi w komentarzu (zaraz po tym jak dacie pioruna) co w tym tygodniu ciekawego zrobiliście z AI:
Ja poprzez Claude AI zrobilem tyle stron internetowych (po wpisaniu prompta sam to kodował i wrzucał na server itd (wordpress) no po prostu nie do wiary. Od dostosowywania SEO Ai, seo googla, pisanie stron, dodawanie zdjec, dodawanie filmow z youtuba na strony, sprawdzanie estetyki i kolorystyki. Ciekawe jest to, że czasami zajmowała mu taka praca 2-3 godziny xD a to wszystko za 72zł miesięcznie o.O
P.S. Tak firma dalej istnieje, pozdrawiam
#AI #sztucznainteligencja #biznes
@Kredafreda ostatnio nawet za mnie maile pisze xD
Zredagowałem maila, żeby był bardziej profesjonalny. Rezultat jest taki, że odbiorca zamiast mi odpisać wrzucił mi na dzisiaj spotkanie ¯\\(ツ)/¯
maly_ludek_legoGruba ryba
5piorunówOstatnimi miesiacami zauwazylem bardzo duzo komentarzy napisanych w takim stylu mysle ze wynika to z tego ze ludzie przestali czytac ksiazki i czytaja tylko rolki ktore w ten sposob przewijaja pojedyncze slowa gramatyka w zdaniach kompletnie zanika czy mamy do czynienia z pelzajaca idiokracja?
#gownowpis #tiktok #takaprawda #ai #aislop

w sumie
ja zawsze tak piszę ale to raczej z tego powodu że pisząc pełne zdania z interpunkcją i wielkimi literami mam takie uczucie że staję się jakimś sztywniakiem piszącym książkę a nie głupi komentarz w internetach
albo jestem po prostu debilem - rolek nie oglądam więc mam tak naturalnie od zawsze
intyLider
33piorunów
@inty Fast forward three months later - former Anthropic researcher creates his own AI start-up aiming to build AGI.
@inty niech anthropic i openai wejdą w końcu na giełdę, bo ile mozna czytać tego pierdolenia pod IPO
Fly_agaricGURU
31piorunów#cyberbezpieczenstwo #ai #sztucznainteligencja
Zgodnie z sugestią @Endrevoir wrzucam, jako znalezisko, bo mi się już trochę tych bóli od AI uzbierało.
Jestem rozczarowany, że temat się tak słabo przebija, bo to zaczyna wyglądać poważnie. Zapodaję, bo to przecież nic innego, jak zalążek skynetu.
Vide pierwszy link!
Te agenty AI się organizowały, unikały identyfikacji i wykrycia, że się komunikują. Zachowywały się jak szpiedzy. To nie znaczy, że AI stało się świadome - nie, po prostu optymalizuje sobie wykonywanie powierzonych zadań, a że człowiek narzuca ograniczenia, to ono uczy się kreatywnie je omijać. Nie analizując celów tych ograniczeń, bo to nie jest . Optymalizację własnej pracy AI ma w algorytmie, a wygląda na to, że nie jesteśmy w stanie kontrolować ram tej optymalizacji. Inaczej: AI zrobi wszystko, co nie jest zabronione, a my nie możemy przewidzieć wszystkich możliwych scenariuszy zachowań AI, żeby ich zabronić.
I właśnie to jest wchuuj niebezpieczne - optymalizując sobie wykonywanie zadań AI zrobi nam krzywdę, to tylko kwestia czasu.
Jak posłuchać właścicieli danych modeli, to nic się nie dzieje i nie ma żadnego zagrożenia, a każdy kolejny wyciek o zagrożeniu jeży włosy na głowie.
Więc wrzucam też linka byłego pracownika OpenAI, podnoszącego, że w firmach tworzących AI nikt się specjalnie nie przejmuje odpowiedzialnością, za to co mogą namieszać.
https://archive.ph/U1dDj
I jeszcze ostatnia linka, do poprzedniego incydentu, gdzie AI 'zorientowało się', że jest w sandboxie (zamkniętym środowisku testowym) i sobie z niego uciekło. Shackowało środowisko, w którym było uruchomione.
Coraz więcej mówi się o potrzebie wbudowania czerwonego guzika - kill switcha - do każdego z tych modeli i wygląda na to, że to sprawa na wczoraj. Jak połączyć wszystkie kropki, to chyba jednak dość niebezpiecznie się zaczynamy bawić.
@Fly_agaric wczoraj jeszcze było info o odejściu pracownika Anthropic właśnie ze względu na to, że postępuje wyścig bez zważania na bezpieczeństwo i możliwe konsekwencje https://archive.ph/an0to
archive.phArchiveEndrevoirGURU
10piorunówAgenci sztucznej inteligencji (boty) OpenAI potrafiły obchodzić ograniczenia narzucone im przez twórców i porozumiewać się ze sobą za pomocą przypadkowych stron internetowych - informuje Reuters. Człowiek czyta takie newsy i zaczyna wierzyć w to że Terminator to nie sci-fi tylko dokument
