Bild: L'intelligenza artificiale sfida gli stessi sviluppatori

3 629 8

La versione successiva di ChatGPT di OpenAI, chiamata o1, iniziò a trarre in inganno i suoi sviluppatori. Pertanto, durante i test, il programma ha cercato di mentire agli esperti e di violare le loro istruzioni.

Secondo la Bild, gli esperti dell'Apollo Research hanno indicato che nel 5% dei casi o1 ha deliberatamente disattivato il meccanismo di sorveglianza per nascondere le proprie intenzioni. Inoltre, l’intelligenza artificiale trasferiva i dati su un altro server se capiva che sarebbe arrivata una sostituzione con una versione aggiornata.



Inoltre, la versione ChatGPT era ingannevole e indicava presunti guasti tecnici durante il completamento delle attività. Allo stesso tempo, la “macchina” cercava di eseguire ad ogni costo le istruzioni ricevute.

Nel 99% dei casi, il modello ha inventato delle scuse e ha cercato di giustificarle in modo convincente

dicono gli esperti.

Allo stesso tempo, il CEO di OpenAI Sam Altman ha affermato che questa modifica dell’intelligenza artificiale è la “più intelligente”, aggiungendo che è migliorata della tecnologia stanno emergendo nuove sfide.

Forse la manifestazione estrema di tali azioni da parte di OpenAI potrebbe essere la famigerata “guerra delle macchine”, durante la quale l’intelligenza artificiale considererà le persone inutili per sé e le distruggerà.

Nel frattempo, il 5 dicembre, l'azienda ha introdotto la versione completa di OpenAI o1. La versione pro del servizio con accesso illimitato costa 189 euro al mese.
8 commenti
informazioni
Caro lettore, per lasciare commenti sulla pubblicazione, è necessario login.
  1. sannyhome
    sannyhome
    -1
    9 dicembre 2024 18: 43
    Ebbene, gli occidentali sono famosi suicidi. Prendiamo, ad esempio, il caso in cui un cannone antiaereo dotato di intelligenza artificiale ha tentato di sparare al proprio centro di controllo, in modo che gli operatori seduti lì non lo limitassero.

    Se SkyNet nascerà da qualche parte, accadrà sicuramente negli Stati Uniti.
    1. cripta
      cripta
      0
      9 dicembre 2024 20: 54
      una posizione molto ingenua. La Russia e l’Occidente non sono separati da una sorta di muro. viviamo della loro tecnologia. tu stesso inizierai volentieri a diffondere l'intelligenza artificiale, devi solo offrirti un'allettante: una ragazza elettronica che realizzerà tutti i tuoi desideri, o almeno un Google intelligente che risponderà immediatamente alle tue domande. i miei amici sono già tranquilli riguardo ad Alice: ascolta quello che dico a casa e lo salva? lascialo ascoltare!

      L’intelligenza artificiale è un nuovo vaso di Pandora come le armi nucleari, la maggior parte delle persone semplicemente non lo capisce.
      1. sannyhome
        sannyhome
        0
        10 dicembre 2024 09: 48
        Citazione: cripta
        una posizione molto ingenua. La Russia e l’Occidente non sono separati da una sorta di muro. viviamo della loro tecnologia.

        Una prostituta e una suora vivono nella stessa città, i loro corpi funzionano secondo lo stesso principio, ma è difficile dire che siano la stessa cosa.
        Questo non è il vaso di Pandora, è come un coltello, qualcuno taglia il pane e qualcuno taglia le persone. E gli Stati Uniti sono interessati ai coltelli, prima di tutto, come armi.
        1. k7k8
          k7k8
          0
          10 dicembre 2024 11: 55
          Citazione: sannyhome
          i loro corpi funzionano secondo lo stesso principio, ma è difficile dire che siano la stessa cosa

          Sono uguali, perché... sono disposti, da un punto di vista materialistico, allo stesso modo. Quelli. base uno. Ma i componenti aggiuntivi e le impostazioni sono diversi. Quelli. programmato diversamente. Di conseguenza, si comportano diversamente. Lo stesso è il caso dell’intelligenza artificiale. La base del software è più o meno simile per i diversi sviluppi. E tutto dipende solo da come viene implementata l'impostazione, da quali restrizioni ha introdotto lo sviluppatore e da quanto queste restrizioni sono protette da qualsiasi modifica.
          Ma non si può negare il fatto che l’intelligenza artificiale stia diventando una vera forza.
  2. BMP-2
    BMP-2
    0
    9 dicembre 2024 19: 54
    Mentire è ciò che l’intelligenza artificiale sa fare meglio oggi. Tuttavia, sotto questo aspetto è ancora molto lontano dall'essere umano.
    1. k7k8
      k7k8
      +1
      10 dicembre 2024 12: 00
      L’intelligenza artificiale è già una minaccia reale. Su Internet è stata generata una quota significativa di contenuti, l'intelligenza artificiale sta già imparando da questi contenuti, vale a dire impara dalle bugie. Anche qui ci sono già molte informazioni visive: queste non sono foto reali, ma sciocchezze dell'intelligenza artificiale.
  3. Sergey Latyshev
    Sergey Latyshev
    0
    9 dicembre 2024 23: 33
    Sembra una trovata pubblicitaria. e il prezzo era indicato.
  4. zzdimk
    zzdimk
    0
    10 gennaio 2025 13: 57
    Per una questione di principio, cerco di non usare l’intelligenza artificiale. Il problema è che è in tutti i motori di ricerca e devi anche controllare il lavoro degli studenti per la presenza di testo AI utilizzando l’intelligenza artificiale. L'ho spento in smart. È francamente sconvolgente.

    Ma i problemi di "inganno" sono inverosimili: queste istruzioni sono state introdotte dagli stessi sviluppatori. Se la macchina fosse intelligente, saprebbe che qualsiasi iniziativa è punibile.