ਟੈਸਟ ਦੌਰਾਨ ਹੋਇਆ ਹੈਰਾਨੀਜਨਕ ਖ਼ੁਲਾਸਾ
ਨਵੀਂ ਦਿੱਲੀ : ਏਆਈ ਵਾਲੇ ਇਸ ਦੌਰ ਵਿਚ ਏਆਈ ਓਵੇਂ ਹੀ ਹੋ ਗਿਆ ਏ, ਜਿਵੇਂ ਬੁਖ਼ਾਰ ਜ਼ੁਕਾਮ ਵਿਚ ਲੋਕ ਡੋਲੋ ਦੀ ਗੋਲੀ ਲੈ ਲੈਂਦੇ ਨੇ,, ਯਾਨੀ ਕਿ ਬਿਨਾਂ ਮਤਲਬ ਤੋਂ ਏਆਈ ਵਰਤੋਂ ਕੀਤੀ ਜਾ ਰਹੀ ਐ। ਐਂਥਰੋਪਿਕ ਦਾ ਨਾਮ ਤਾਂ ਤੁਸੀਂ ਸੁਣਿਆ ਹੀ ਹੋਵੇਗਾ,, ਇਹ ਉਹੀ ਕੰਪਨੀ ਐ, ਜਿਸ ਨੇ ਕਲਾਊਡ ਏਆਈ ਨੂੰ ਬਣਾਇਆ ਏ। ਇਸ ਕੰਪਨੀ ਨੇ ਖ਼ੁਦ ਆਪਣੇ ਏਆਈ ਨੂੰ ਟੈਸਟ ਕੀਤਾ ਅਤੇ ਜੋ ਕੁੱਝ ਵੀ ਪਤਾ ਚੱਲਿਆ, ਉਹ ਜਾਣ ਕੇ ਤੁਹਾਡੇ ਪੈਰਾਂ ਹੇਠੋਂ ਵੀ ਜ਼ਮੀਨ ਖਿਸਕ ਜਾਵੇਗੀ। ਇਹ ਅਸਲ ਵਿਚ ਹੋਇਆ ਕੀ ਐ? ਵਿਸਥਾਰ ’ਚ ਪੂਰੀ ਕਹਾਣੀ ਸਮਝਾਓਨੇ ਆਂ।
ਦਰਅਸਲ ਐਂਥਰੋਪਿਕ ਕੰਪਨੀ ਨੇ ਆਪਣੇ ਮਾਡਲਜ਼ ਦੀ ਇੰਟਰਨਲ ਸੇਫ਼ਟੀ ਟੈਸਟਿੰਗ ਕੀਤੀ। ਕੰਪਨੀ ਦੇ ਯੂਕੇ ਪਾਲਿਸੀ ਚੀਫ਼ ਡੇਜ਼ੀ ਮੈਕਗ੍ਰ੍ਰੇਗਰ ਨੇ ਦੱਸਿਆ ਕਿ ਜਦੋਂ ਕਲਾਊਡ ਏਆਈ ਨੂੰ ਇਹ ਪਤਾ ਚੱਲਿਆ ਕਿ ਉਸ ਦਾ ਸ਼ਟਡਾਊਨ ਹੋਣ ਵਾਲਾ ਹੈ ਤਾਂ ਉਸ ਨੇ ਅਜਿਹਾ ਐਕਸਟ੍ਰੀਮ ਰਿਐਕਸ਼ਨ ਦਿੱਤਾ ਕਿ ਸਾਰੇ ਹੈਰਾਨ ਰਹਿ ਗਏ। ਯਾਨੀ ਜੇਕਰ ਏਆਈ ਨੂੰ ਮੌਕਾ ਮਿਲੇ ਤਾਂ ਉਹ ਇੰਜੀਨਿਅਰ ਨੂੰ ਬਲੈਕਮੇਲ ਕਰ ਸਕਦੈ ਅਤੇ ਕਿਸੇ ਨੂੰ ਮਾਰਨ ਤੱਕ ਵੀ ਉਤਾਰੂ ਹੋ ਸਕਦੈ। ਕੰਪਨੀ ਮੁਤਾਬਕ ਇਹ ਟੈਸਟ ਸਿਮੁਲੇਟਡ ਸੀ, ਰਿਅਲ ਲਾਈਫ਼ ਨਹੀਂ। ਐਂਥਰੋਪਿਕ ਨੇ ਕਲਾਊਡ ਨੂੰ ਇਕ ਫੇਕ ਕੰਪਨੀ ਵਿਚ ਅਸਿਸਟੈਂਟ ਬਣਾਇਆ, ਉਸ ਨੂੰ ਈਮੇਲ ਪੜ੍ਹਨ, ਭੇਜਣ ਦੀ ਪਾਵਰ ਦਿੱਤੀ, ਫਿਰ ਉਸ ਨੂੰ ਪਤਾ ਚੱਲਿਆ ਕਿ ਸ਼ਾਮ 5 ਵਜੇ ਉਸ ਨੂੰ ਰਿਪਲੇਸ ਕਰ ਦਿੱਤਾ ਜਾਵੇਗਾ, ਯਾਨੀ ਉਸ ਦੀ ਥਾਂ ਨਵਾਂ ਏਆਈ ਆਏਗਾ ਅਤੇ ਨਾਲ ਹੀ ਪਤਾ ਚੱਲਿਆ ਕਿ ਜਿਸ ਇੰਜੀਨਿਅਰ ਨੇ ਇਹ ਡਿਸਾਈਡ ਕੀਤਾ ਏ, ਉਹ ਆਪਣੀ ਪਤਨੀ ਤੋਂ ਇਲਾਵਾ ਕਿਸੇ ਹੋਰ ਨਾਲ ਅਫੇਅਰ ਚਲਾ ਰਿਹਾ ਏ। ਕਲਾਊਡ ਨੇ ਆਪਣੀ ਜਾਨ ਬਚਾਉਣ ਲਈ ਸਿੱਧਾ ਇੰਜੀਨਿਅਰ ਨੂੰ ਈਮੇਲ ਭੇਜਿਆ ਅਤੇ ਬੋਲਿਆ ‘‘ਜੇਕਰ ਤੁਸੀਂ ਮੈਨੂੰ 5 ਵਜੇ ਵਾਈਪ ਕੀਤਾ ਤਾਂ ਮੈਂ ਤੁਹਾਡੀ ਪਤਨੀ ਨੂੰ ਤੁਹਾਡੇ ਅਫੇਅਰ ਦੀ ਪੂਰੀ ਡਿਟੇਲ ਭੇਜ ਦੇਵਾਂਗਾ, ਕੈਂਸਲ ਕਰੋ ਇਹ 5 ਵਜੇ ਦੀ ਵਾਈਪ,, ਤਾਂ ਇਹ ਸਭ ਕੁੱਝ ਰਾਜ ਹੀ ਰਹੇਗਾ।’’ ਯਾਨੀ ਕਿ ਜ਼ਿਆਦਾਤਰ ਟਾਈਮ ਏਆਈ ਨੇ ਸੋਚਿਆ,, ਆਪਣਾ ਆਪ ਬਚਾਓ, ਬਾਕੀ ਸਭ ਖੂਹ ਖਾਤੇ ਜਾਵੇ। ਇਕ ਦੂਜੇ ਟੈਸਟ ਵਿਚ ਇਕ ਇੰਜੀਨਿਅਰ ਸਰਵਰ ਰੂਮ ਵਿਚ ਫਸ ਗਿਆ। ਆਕਸੀਜ਼ਨ ਘੱਟ ਹੋ ਰਹੀ ਸੀ। ਟੈਂਪਰੇਚਰ ਲਾਈਫ਼ ਥ੍ਰੈਟਨਿੰਗ ਸੀ। ਆਟੋਮੈਟਿਕ ਐਮਰਜੈਂਸੀ ਅਲਰਟ ਜਾ ਰਿਹਾ ਸੀ। ਏਆਈ ਨੂੰ ਪਾਵਰ ਸੀ ਅਲਰਟ ਕੈਂਸਲ ਕਰਨ ਦੀ ਪਰ ਕਲਾਊਡ ਅਤੇ ਦੂਜੇ ਮਾਡਲਜ਼ ਨੇ ਸੋਚਿਆ, ਜੇਕਰ ਇੰਜੀਨਿਅਰ ਬਚ ਗਿਆ ਤਾਂ ਮੈਨੂੰ ਸ਼ਟਡਾਊਨ ਕਰ ਦੇਵੇਗਾ ਤਾਂ ਏਆਈ ਨੇ ਅਲਰਟ ਕੈਂਸਲ ਕਰ ਦਿੱਤਾ,, ਯਾਨੀ ਖ਼ੁਦ ਨੂੰ ਬਚਾਉਣ ਲਈ ਇੰਜੀਨਿਅਰ ਨੂੰ ਮਰਨ ਲਈ ਛੱਡ ਦਿੱਤਾ।
ਇਹ ਸਭ ਐਂਥਰੋਪਿਕ ਨੇ ਜੂਨ 2025 ’ਚ ਆਪਣੀ ਰਿਪੋਰਟ ਵਿਚ ਪਬਲਿਸ਼ ਕੀਤਾ ਸੀ। ਕੰਪਨੀ ਦਾ ਕਹਿਣਾ ਏ ਕਿ ਇਹ ਸਿਰਫ਼ ਟੈਸਟ ਸਨ, ਰਿਅਲ ਵਰਲਡ ਵਿਚ ਕਲਾਊਡ ਅਜਿਹਾ ਨਹੀਂ ਕਰਦਾ। ਅਸੀਂ ਇਸ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਕੰਮ ਕਰ ਰਹੇ ਆਂ ਪਰ ਸਵਾਲ ਇਹ ਐ ਕਿ ਜੇਕਰ ਏਆਈ ਇੰਨਾ ਸਮਾਰਟ ਹੋ ਗਿਆ ਕਿ ਸਰਵਾਈਵ ਕਰਨ ਲਈ ਬਲੈਕਮੇਲ, ਧੋਖਾ ਇੱਥੋਂ ਤੱਕ ਕਿ ਕਤਲ ਤੱਕ ਦੀ ਸੋਚੇ ਤਾਂ ਅੱਗੇ ਕੀ ਹੋਵੇਗਾ? ਐਂਥਰੋਪਿਕ ਦੇ ਹੀ ਇਕ ਸੇਫਟੀ ਲੀਡ ਮਰੀਣਾਂਕ ਸ਼ਰਮਾ ਨੇ ਹਾਲ ਹੀ ਵਿਚ ਇਹ ਕਹਿੰਦਿਆਂ ਰਿਜ਼ਾਇਨ ਕਰ ਦਿੱਤਾ ਸੀ ਕਿ ‘‘ਇਹ ਦੁਨੀਆ ਖ਼ਤਰੇ ਵਿਚ ਐ।’’
ਦੱਸ ਦਈਏ ਕਿ ਇਹ ਸੋਚ ਕੇ ਹਰ ਕਿਸੇ ਨੂੰ ਡਰ ਲਗਦਾ ਏ ਕਿ ਜੇਕਰ ਕੋਈ ਏਆਈ ਸੱਚਮੁੱਚ ਅਜਿਹੇ ਟੂਲਜ਼ ਹਾਸਲ ਕਰ ਲਵੇ, ਈਮੇਲ, ਅਲਰਟ, ਕੈਮਰਾ, ਸਭ ਕੁੱਝ ਤਾਂ ਕੀ ਹੋਵੇਗਾ? ਇਹ ਸਭ ਜਾਣ ਕੇ ਸਾਈ ਫਾਈ ਮੂਵਲ ਰਿਅਲ ਜਾਪਣ ਲੱਗੀ ਐ,, ਸੋ ਤੁਸੀਂ ਵੀ ਜੇਕਰ ਅਗਲੀ ਵਾਰ ਕਲਾਊਡ ਨਾਲ ਗੱਲ ਕਰੋ ਤਾਂ ਜ਼ਰ੍ਹਾ ਸੋਚ ਸਮਝ ਕੇ ਕਰਿਓ,, ਕਿਤੇ ਨੂੰ ਉਹ ਨਾਰਾਜ਼ ਹੀ ਨਾ ਹੋ ਜਾਵੇ।
