Tutoriel Avoir son propre "chatGPT" local sur son ordinateur.

[Golmon]

Pour la démonstration de ce tutoriel, ce dernier à été en partie rédigée par l'IA (Mistral 7B)

Bonsoir à tous, aujourd'hui je vais vous montrer comment avoir un 'chatGPT' dans son propre ordinateur. Qui peut-être utile en cas d'inaccessibilité à internet, ou pour des conversations sensibles.

⚠️ Requiert une machine de guerre (un bon gros GPU style RTX 3080/4080 et environ 32/64Go de RAM...​

Bonjour visiteur, merci de vous inscrire ou de vous connecter pour voir l'intégralité de ce sujet ! Identifiez-vous ou inscrivez-vous dès maintenant.

 

[Admin]

Merci pour le tuto, je vois que tu parle des prérequis au niveau de la RAM et du GPU mais quid du CPU ? Celui-ci doit être le plus imposant possible pour suivre avec le reste du matos ou pas besoin ?

 

[Steve]

Tuto propre! Merci pour le partage

 

[Golmon]

Merci pour le tuto, je vois que tu parle des prérequis au niveau de la RAM et du GPU mais quid du CPU ? Celui-ci doit être le plus imposant possible pour suivre avec le reste du matos ou pas besoin ?

Pour le CPU pas forcément, les LLMs consomment surtout d'avantage de GPU/RAM pour être chargé et utilisé. Sinon un CPU avec des coeurs neuronaux (comme les Apple M) et des CPU avec du NPU intégré autre que Apple devrait arriver dans le marché dans pas longtemps

 

[Golmon]

Tuto propre! Merci pour le partage

de rien bg

 

[Sn0wN]

Merci pour le tutoriel, ça semble être une très belle appli je vais la tester