ਵੱਡਾ ਖਬਰ
ਇਸ ਹਫ਼ਤੇ, ਅਸੀਂ Developer’s Guide to NeMo Guardrails ਵਿੱਚ ਡੂੰਘਾਈ ਨਾਲ ਜਾ ਰਹੇ ਹਾਂ। ਇਹ ਟਿਊਟੋਰੀਅਲ ਦਿਖਾਉਂਦਾ ਹੈ ਕਿ ਕਿਵੇਂ NeMo ਗਾਰਡਰੇਲਸ ਫਰੇਮਵਰਕ ਦੀ ਵਰਤੋਂ ਕਰਕੇ LLM ਅਰਜ਼ੀਆਂ ਲਈ ਉਤਪਾਦਨ-ਗਰੇਡ ਸੁਰੱਖਿਆ ਨੂੰ ਲਾਗੂ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਜ਼ਿਆਦਾਤਰ ਡਿਵੈਲਪਰ ਮਾਡਲ ਚੋਣ 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰਦੇ ਹਨ, ਪਰ ਇਹ ਗਾਈਡ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਸੁਰੱਖਿਆ ਡਿਜ਼ਾਇਨ 'ਤੇ ਜ਼ੋਰ ਦਿੰਦੀ ਹੈ, ਜੋ ਉਦਯੋਗ-ਪੱਧਰ ਦੀ ਤਾਇਨਾਤੀ ਲਈ ਮਹੱਤਵਪੂਰਨ ਹੈ। ਜਿਵੇਂ ਜਿਵੇਂ AI ਵਿਆਪਕ ਹੁੰਦਾ ਜਾ ਰਿਹਾ ਹੈ, ਸੁਰੱਖਿਆ ਲਈ ਪਰਤਦਾਰ ਪਹੁੰਚ ਰਿਸਕ ਨੂੰ ਘਟਾ ਸਕਦੀ ਹੈ ਜੋ ਅਣਉਮੀਦ ਮਾਡਲ ਵਿਹਾਰਾਂ ਤੋਂ ਪੈਦਾ ਹੁੰਦੇ ਹਨ। ਜੇ ਤੁਸੀਂ LLMs ਨਾਲ ਕੰਮ ਕਰ ਰਹੇ ਹੋ ਜਾਂ ਇਸ ਦੀ ਯੋਜਨਾ ਬਣਾ ਰਹੇ ਹੋ, ਤਾਂ ਤੁਹਾਨੂੰ ਇਹ ਦੇਖਣਾ ਚਾਹੀਦਾ ਹੈ ਅਤੇ ਆਪਣੇ ਵਰਕਫਲੋਜ਼ ਵਿੱਚ ਇਹ ਅਭਿਆਸ ਸ਼ਾਮਲ ਕਰਨ ਤੇ ਵਿਚਾਰ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ।
ਗਤੀਸ਼ੀਲ ਜਾਣਕਾਰੀਆਂ
S1-mini ਨਾਲ ਮਿਲੋ: ASR ਵਿੱਚ ਇੱਕ ਖੇਡ ਬਦਲਣ ਵਾਲਾ
Superwhisper ਨੇ S1-mini ਜਾਰੀ ਕੀਤਾ ਹੈ, ਜੋ 462 MB ਦਾ ਖੁੱਲ੍ਹਾ-ਭਾਰਾਂ ਟੈਕਸਟ ਨਾਰਮਲਾਈਜ਼ਰ ਹੈ ਜੋ ਕੱਚੇ ASR ਟ੍ਰਾਂਸਕ੍ਰਿਪਟਾਂ ਨੂੰ ਸਾਫ਼ ਕਰਦਾ ਹੈ। ਇਹ ਟੂਲ ਫਿਲਰਾਂ ਅਤੇ ਆਪਣੇ ਆਪ ਦੀ ਸੁਧਾਰ ਨੂੰ ਹਟਾ ਸਕਦਾ ਹੈ, ਜੋ ਤੁਹਾਡੇ ਟ੍ਰਾਂਸਕ੍ਰਿਪਟਾਂ ਨੂੰ ਸਾਫ ਅਤੇ ਵਧੀਆ ਪੇਸ਼ੇਵਰ ਬਣਾਉਂਦਾ ਹੈ। ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ: ਜੇ ਤੁਸੀਂ ਬਹੁਤ ਸਾਰੇ ਆਡੀਓ-ਟੂ-ਟੈਕਸਟ ਟ੍ਰਾਂਸਕ੍ਰਿਪਸ਼ਨਾਂ ਨਾਲ ਕੰਮ ਕਰਦੇ ਹੋ, ਤਾਂ ਇਹ ਤੁਹਾਨੂੰ ਮੈਨੂਅਲ ਸੋਧਣ ਵਿੱਚ ਘੰਟਿਆਂ ਦੀ ਬਚਤ ਕਰ ਸਕਦਾ ਹੈ।
NVIDIA ਦਾ TensorRT ਮਾਡਲ ਕਨੈਕਟ
NVIDIA ਨੇ ਹੁਣੇ ਹੀ TensorRT ਮਾਡਲ ਕਨੈਕਟ ਜਾਰੀ ਕੀਤਾ ਹੈ, ਜੋ ਤੁਹਾਨੂੰ ਹੋਗਿੰਗ ਫੇਸ ਜਾਂ ਸਥਾਨਕ ਚੈੱਕਪੌਇਟ ਨੂੰ ਸਿਰਫ ਦੋ ਹੁਕਮਾਂ ਵਿਚ ਟੈਂਸਰRT ਇੰਫਰੈਂਸ 'ਤੇ ਲਿਜਾਣ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ। ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ: ਇਹ ਤੁਹਾਡੇ ਤਾਇਨਾਤੀ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਮਹੱਤਵਪੂਰਨ ਤੌਰ 'ਤੇ ਸੁਗਮ ਬਣਾ ਸਕਦਾ ਹੈ, ਖਾਸ ਕਰਕੇ ਜੇ ਤੁਸੀਂ ਜਟਿਲ ਮਾਡਲਾਂ ਨਾਲ ਕੰਮ ਕਰ ਰਹੇ ਹੋ।
Netflix vs. ਭਾਸ਼ਾ ਮਾਡਲ
Netflix ਨੇ ਆਪਣੇ ਪਰੰਪਰਾਗਤ ਸਿਫਾਰਸ਼ ਇੰਜਣ ਦੇ ਖਿਲਾਫ ਇੱਕ ਨਵਾਂ ਘਰੇਲੂ ਭਾਸ਼ਾ ਮਾਡਲ ਜਿਨ੍ਹਾਂ ਨੂੰ GenRec ਕਿਹਾ ਜਾਂਦਾ ਹੈ, ਦੀ ਜਾਂਚ ਕੀਤੀ ਹੈ ਅਤੇ ਪਾਇਆ ਹੈ ਕਿ ਇਸ ਨੇ ਪੁਰਾਣੇ ਸਿਸਟਮ ਨੂੰ ਪਿੱਛੇ ਛੱਡ ਦਿੱਤਾ। ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ: ਇਹ ਬਦਲਾਅ ਕੰਪਨੀਆਂ ਦੇ ਸਿਫਾਰਸ਼ਾਂ ਦੇ ਤਰੀਕੇ ਵਿੱਚ ਇੱਕ ਵੱਡੇ ਰੁਝਾਨ ਦੀ ਗੰਤੀ ਕਰ ਸਕਦਾ ਹੈ, ਜੋ AI 'ਤੇ ਜ਼ਿਆਦਾ ਅਤੇ ਮਨੁੱਖੀ ਬਣਾਏ ਗਏ ਤਰਕ 'ਤੇ ਘੱਟ ਨਿਰਭਰ ਕਰਦਾ ਹੈ।
Deepseek ਦਾ ਫਲੈਸ਼ ਵਿਜ਼ਨ ਮਾਡਲ
Deepseek ਨੇ ਇੱਕ ਪ੍ਰਯੋਗਾਤਮਕ ਮਲਟੀਮੋਡਲ ਮਾਡਲ V4-Flash-Vision-Exp ਜਾਰੀ ਕੀਤਾ ਹੈ ਜੋ ਆਪਣੀਆਂ ਟੈਕਸਟ ਸਮਰਥਾਵਾਂ ਵਿੱਚ ਚਿੱਤਰ ਸਮਝਣ ਨੂੰ ਸ਼ਾਮਲ ਕਰਦਾ ਹੈ। ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ: ਜੇ ਤੁਸੀਂ ਮਲਟੀਮੋਡਲ ਮਾਡਲਾਂ ਵਿੱਚ ਦਿਲਚਸਪੀ ਰੱਖਦੇ ਹੋ, ਤਾਂ ਇਹ ਤੁਹਾਡੇ ਪ੍ਰੋਜੈਕਟਾਂ ਲਈ ਇੱਕ ਰੋਮਾਂਚਕ ਵਿਕਲਪ ਹੋ ਸਕਦਾ ਹੈ।
AI ਪਸੰਦੀਦਗੀ ਪੱਖਪਾਤ ਦੀ ਜਾਂਚ
ਇੱਕ ਨਵਾਂ ਟਿਊਟੋਰੀਅਲ ਦਿਖਾਉਂਦਾ ਹੈ ਕਿ ਕਿਵੇਂ ਡਾਇਰੈਕਟ ਪਸੰਦ ਅਪਟੀਮਾਈਜ਼ੇਸ਼ਨ (DPO) ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਨੂੰ ਫਾਈਨ-ਟਿਊਨ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ: ਪੱਖਪਾਤ ਲਈ ਮਾਡਲਾਂ ਨੂੰ ਫਾਈਨ-ਟਿਊਨ ਕਰਨਾ ਦਿਨੋ-ਦਿਨ ਵਧ ਰਿਹਾ ਹੈ, ਅਤੇ ਇਹ ਗਾਈਡ ਤੁਹਾਨੂੰ ਸ਼ੁਰੂ ਕਰਨ ਲਈ ਇੱਕ ਮਜ਼ਬੂਤ ਵਰਕਫਲੋ ਦਿੰਦੀ ਹੈ।
ਇੱਕ ਚੀਜ਼ ਅਜ਼ਮਾਉਣ ਲਈ
ਜੇ ਤੁਸੀਂ ਆਪਣੇ ASR ਟ੍ਰਾਂਸਕ੍ਰਿਪਟਾਂ ਨੂੰ ਸਾਫ਼ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੇ ਹੋ, ਤਾਂ ਇਸ ਹਫ਼ਤੇ S1-mini ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰੋ। ਇਹ ਇੱਕ ਸਧਾਰਨ ਟੂਲ ਹੈ ਜੋ ਤੁਹਾਡੇ ਵਰਕਫਲੋ ਵਿੱਚ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਫਰਕ ਪੈਦਾ ਕਰ ਸਕਦਾ ਹੈ। ਸਿਰਫ ਇਸਨੂੰ ਆਪਣੇ ASR ਪ੍ਰਕਿਰਿਆ ਦੇ ਬਾਅਦ ਜੁੜੋ, ਅਤੇ ਸਾਫ਼ ਨਿੱਕਾਸ ਦਾ ਆਨੰਦ ਲਵੋ!
ਸਾਇਨ-ਆਫ
ਇਸ ਹਫ਼ਤੇ ਲਈ ਬੱਸ ਇਤਨਾ! ਜਿਵੇਂ ਕਿ ਹਮੇਸ਼ਾ, ਮੈਂ ਇਹ ਸੁਣਨ ਵਿੱਚ ਦਿਲਚਸਪੀ ਰੱਖਦਾ ਹਾਂ ਕਿ ਤੁਸੀਂ ਕਿਸੇ ਵੀ ਟੂਲਾਂ ਬਾਰੇ ਉਤਸ਼ਾਹਿਤ ਹੋ ਜਾਂ ਕੀ ਤੁਸੀਂ ਉਨ੍ਹਾਂ ਵਿੱਚੋਂ ਕੋਈ ਵੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ ਹੈ। ਆਓ ਗੱਲਬਾਤ ਜਾਰੀ ਰੱਖੀਏ!