ਇਹ ਵੱਡੀ ਗੱਲ ਹੈ
NVIDIA cuML, RAPIDS ਨਾਲ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਵਰਕਫਲੋ ਦੀ ਲਾਗੂਕਰਨ: ਜੇ ਤੁਸੀਂ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਵਿੱਚ ਡੂੰਘਾਈ ਮਾਰ ਰਹੇ ਹੋ, ਤਾਂ NVIDIA ਦਾ ਨਵਾਂ ਟਿਊਟੋਰੀਅਲ ਇੱਕ ਗੇਮ ਚੇਂਜਰ ਹੈ। ਇਹ ਤੁਹਾਨੂੰ ਇੱਕ GPU ਵਾਤਾਵਰਣ ਸੈਟ ਕਰਨ ਅਤੇ cuML ਅਤੇ RAPIDS ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਵਰਕਫਲੋਜ਼ ਨੂੰ ਤੇਜ਼ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਦਾ ਹੈ ਬਿਨਾਂ ਇੱਕ ਵੀ ਲਾਈਨ ਕੋਡ ਲਿਖੇ। ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਤੁਸੀਂ GPUs ਦੀ ਤਾਕਤ ਨੂੰ ਤੇਜ਼ੀ ਅਤੇ ਆਸਾਨੀ ਨਾਲ ਵਰਤ ਸਕਦੇ ਹੋ, ਜੋ ਤੁਹਾਡੇ ਮੋਡਲ ਦੀ ਟ੍ਰੇਨਿੰਗ ਨੂੰ ਖੂਬ ਤੇਜ਼ ਕਰ ਦਿੰਦੀ ਹੈ। ਜੇ ਤੁਸੀਂ ਸੁਵਿਧਾ ਦੀ ਕਠਿਨਾਈ ਕਾਰਨ GPUs ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਿੱਚ ਹਿਚਕਿਚਾਹਟ ਮਹਿਸੂਸ ਕਰ ਰਹੇ ਹੋ, ਤਾਂ ਇਹ ਤੁਹਾਡੇ ਲਈ ਇੱਕ ਮੌਕਾ ਹੈ। ਇਸਨੂੰ ਵੇਖੋ ਇਥੇ.
ਗਤੀਸ਼ੀਲ ਖਬਰਾਂ
Cognition ਨੇ SWE-2 ਜਾਰੀ ਕੀਤਾ: Cognition ਦਾ ਨਵਾਂ SWE-2 ਕੋਡਿੰਗ ਮਾਡਲ ਬਹੁਤ ਹੀ ਖਰਚ ਲਾਭਦਾਇਕ ਹੈ, ਜੋ Fable 5.1 ਦੀ ਕਾਰਗੁਜ਼ਾਰੀ ਨੂੰ 64% ਘੱਟ ਖਰਚ 'ਤੇ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। ਇਹ ਸਟਾਰਟਅਪ ਜਾਂ ਪ੍ਰੋਜੈਕਟਾਂ ਲਈ ਇੱਕ ਮਜ਼ਬੂਤ ਵਿਕਲਪ ਹੋ ਸਕਦਾ ਹੈ ਜੋ ਕੋਡਿੰਗ ਕਾਰਜਾਂ ਨੂੰ ਬਿਨਾਂ ਬੈਂਕ ਨੂੰ ਤੋੜੇ ਆਪਟੀਮਾਈਜ਼ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੇ ਹਨ। ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ: ਇਹ ਉੱਚ ਗੁਣਵੱਤਾ ਵਾਲੇ AI ਕੋਡਿੰਗ ਲਈ ਰੁਕਾਵਟਾਂ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ ਬਿਨਾਂ ਜ਼ਿਆਦਾ ਕੀਮਤ ਦੇ। ਵੇਰਵੇ ਲੈਣ ਲਈ ਇਥੇ.
Redis LangCache: ਇਹ ਪ੍ਰਬੰਧਿਤ ਸਿਮਾਂਟਿਕ ਕੈਸ਼ ਤੁਹਾਨੂੰ LLM API ਦੀ ਲਾਗਤ 'ਤੇ ਕਾਫੀ ਪੈਸਾ ਬਚਾ ਸਕਦੀ ਹੈ, ਖਰਚਾਂ ਨੂੰ 90% ਤੱਕ ਘਟਾਉਂਦੀ ਹੈ ਅਤੇ ਪ੍ਰਤਿਕਿਰਿਆ ਸਮੇਂ ਨੂੰ 15x ਤੇਜ਼ ਕਰਦੀ ਹੈ। ਦੁਹਰਾਏ ਜਾਣ ਵਾਲੇ ਪੁੱਛਗਿੱਛਾਂ ਨੂੰ ਸੰਭਾਲਣ ਵਾਲੀ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਬਿਲਕੁਲ ਉਤਮ! ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ: ਜੇ ਤੁਸੀਂ ਉਤਪਾਦਨ ਵਿੱਚ LLMs ਨੂੰ ਤਾਇਨਾਤ ਕਰ ਰਹੇ ਹੋ, ਤਾਂ ਇਹ ਤੁਹਾਡੇ ਓਪਰੇਸ਼ਨਲ ਖਰਚਾਂ ਨੂੰ ਬਹੁਤ ਘਟਾ ਸਕਦੀ ਹੈ। ਹੋਰ ਜਾਣਕਾਰੀ ਪ੍ਰਾਪਤ ਕਰੋ ਇਥੇ.
Fly Language Model ਦਾ Connectome: Fly Language Model ਪੂਰੀ ਫਲਾਈ ਕਨੈਕਟੋਮ ਨੂੰ ਇੱਕ ਫ੍ਰੋਜ਼ਨ LLM ਵਿੱਚ ਵਾਇਰ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦਾ ਹੈ, ਪਰ ਪਹਿਲੇ ਟੈਸਟ ਦਰਸਾਉਂਦੇ ਹਨ ਕਿ ਇਸ ਨਾਲ ਜ਼ਿਆਦਾ ਕੀਮਤ ਨਹੀਂ ਵਧਦੀ। ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ: ਇਹ AI ਵਿੱਚ ਜੀਵ ਵਿਗਿਆਨਕ ਮਾਡਲਾਂ ਬਾਰੇ ਸਵਾਲ ਪੈਦਾ ਕਰਦਾ ਹੈ। ਕੀ ਅਸੀਂ ਬਿਨਾਂ ਥੋਸ ਲਾਭਾਂ ਦੇ ਕੁਦਰਤ ਦੀ ਨਕਲ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੇ ਹਾਂ? ਇਸਨੂੰ ਵੇਖੋ ਇਥੇ.
Google ਦਾ ToolGrad: Google ਦਾ ਟੂਲ-ਵਰਤੋਂ ਡੇਟਾ ਜੇਨਰੇਸ਼ਨ ਲਈ ਨਵਾਂ ਫਰੇਮਵਰਕ 99.8% ਪਾਸ ਦਰ ਪ੍ਰਾਪਤ ਕਰਦਾ ਹੈ। ਇਹ ਉਪਭੋਗਤਾ ਪੁੱਛਗਿੱਛ ਬਣਾਉਣ ਤੋਂ ਪਹਿਲਾਂ ਇੱਕ API ਚੇਨ ਬਣਾਉਂਦਾ ਹੈ, ਆਮ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਉਲਟ ਦੇਂਦਾ ਹੈ। ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ: ਇਹ ਮਾਡਲ ਦੀ ਟ੍ਰੇਨਿੰਗ ਲਈ ਡੇਟਾਸੇਟ ਬਣਾਉਣ ਦੇ ਤਰੀਕੇ ਨੂੰ ਇਨਕਲਾਬੀ ਬਣਾ ਸਕਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਇਹ ਤੇਜ਼ ਅਤੇ ਵੱਧ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਹੋ ਜਾਂਦਾ ਹੈ। ਹੋਰ ਜਾਣਕਾਰੀ ਲਵੋ ਇਥੇ.
ਇੱਕ ਚੀਜ਼ ਜੋ ਅਜ਼ਮਾਉਣੀ ਹੈ
ਜੇ ਤੁਸੀਂ ਆਪਣੇ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਵਰਕਫਲੋ ਨੂੰ ਸੁਚੱਜਾ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੇ ਹੋ, ਤਾਂ NVIDIA ਦੇ cuML ਨੂੰ ਅਜ਼ਮਾਓ। ਇਹ ਤੁਹਾਨੂੰ GPU ਪ੍ਰੋਗ੍ਰਾਮਿੰਗ ਵਿੱਚ ਡੂੰਘਾਈ ਵਿੱਚ ਜਾਣ ਬਿਨਾਂ scikit-learn ਕਾਰਵਾਈਆਂ ਨੂੰ ਤੇਜ਼ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ। ਉਹਨਾਂ ਲਈ ਬੇਹਤਰ ਜੋ ਨਤੀਜੇ ਚਾਹੁੰਦੇ ਹਨ ਬਿਨਾਂ ਕਿਸੇ ਸਿਰਦਰਦ ਦੇ!
ਸਾਈਨ-ਆਫ
ਇਹ ਇਸ ਹਫਤੇ ਦੇ ਰਾਊਂਡਅੱਪ ਲਈ ਬੱਸ! ਮੈਂ ਹਮੇਸ਼ਾਂ ਨਵੇਂ ਟੂਲਾਂ ਨਾਲ ਖੇਡਦਾ ਰਹਿੰਦਾ ਹਾਂ, ਤਾਂ ਜੇ ਤੁਹਾਡੇ ਕੋਲ ਕੋਈ ਸ਼ਾਂਦਾਰ ਖੋਜਾਂ ਜਾਂ ਸਵਾਲ ਹਨ, ਤਾਂ ਮੈਨੂੰ ਸੰਪਰਕ ਕਰੋ। ਚਲੋ ਗੱਲਬਾਤ ਜਾਰੀ ਰੱਖੀਏ!