Nuevas tarjetas gráficas. + IA

[mikrios]

Hola:
Se sabe algo de las nuevas gráficas (super) , busque pero no vi mucho.
Comento: estoy montando 3 ordenadores gama alta .

1º pc , para mi sobrina que estudia Ingenería superior de astronautica, un 4090+placa de 800 a 900 €+ fuente 1200W, etc (sobre 4000 a 5000€ o mas).

2ºpc , para mi sobrina que estudia 3 medicina, gama alta, pero bajando prestaciones (cálculo) : 4090+placa sobre 800 a 900€ y buenos discos duros, en gráfica y fuente, no creo que requiera muchos procesos, mas bien asegurar temperatura y estabilidad en el montaje ;
(A) ¿ que gráfica y fuente le vendría en esas condiciones?
(B) Las aplicaciones, serán Base D. , Historial médico, etc.

3º PC , es una placa con RL de 800 a 900€ , 4090 con ekwb con bloque activo por las dos caras, fuente 1200W, está es para experimentar yo (van mas de 5000€ y falta fuente pcie 5.0 ATX 3.0 ) .
Dado la zona, alejada del continente, no se dispone del todo el material y en el continente son reacios a enviar a Canarias, la logistica es muy mala, y hay riesgo de perder mercancía.

1º funcionan bien las gráficas actuales, en linux ? (4070,4080,4080s,4090) .

2º La IA necesita muchos núcleos, mas que ALUS, se podrá aprovechar este material, para correr pequeños proyectos.

3º ¿ que reglamentación EU o internacional, se aplicara a las IAS, por lo poco que vi, esto puede que en un futuro, se pongan las cosas difíciles ?

4º Pago mis derechos de examenes, apruebo y saco titulación, y el organismo, da a entender que han perdido mi documentación; hay problemas en algunos campos de investigación, como para poner pegas, en la investigación .

En otra titulación, me es imposible obtener material, para mis pruebas, y los profesores de la Universidad ya están jubilados , así que poco tiene uno de material para investigar.

Resumiendo, por noticias de hace un tiempo, dependiendo del proyecto, uno puede salir mal parado, en IA es un tema amplio y con muchas salidas, pero algunas, pueden llegar a ser problemáticas .

Se aplicara alguna en S.O. como parte del sistema ?
Para Linux , de las que hay, se conocen algunas? (ejemplo, para OpenSUSE) .

Saludos

[mikrios]

Hola:

El motivo de este post, es recopilar información sobre esta serie de tarjetas en linux.
Las aplicaciones, son las comentadas : calculo+IA , otra para programas médicos y el mio para cacharreo y pruebas de conductancia térmica (disipadores de calor y experimentos) +IA.
Las dificultades para mis experimentos, son la falta de materiales (que aquí no hay) .
Otra es la falta de determinadas piezas, porque los distribuidores no las traen, por eso las experiencias de como funcionan, me pueden servir a mi para completar lo que me falte.
Ejemplo que gráfica le puedo poner al ordenador con menos exigencias, y que fuente le podría ir bien, ya he probado cooler master 1200W y en 2 semanas, se averiaron por defecto de fabrica, otra de gama alta, produce esporádicos y se carga los 5voltios PB. (48v en tensión de 12v y 16 a veinte y pico en tensión de 5v, los tvs, no protegen de esos picos de tensión) .
Fuentes asus, bien pero por ahora no llegan las de pcie 5.0 , thermaltek , no se que tal son y corsair, tampoco, las demás ni idea .
Los pcs, estarán sobre dimensionados y con RL. custom ( Aquí no se consigue buen material térmico ) , por lo que desconozco como se comporta en linux, Como no he probado los drivers, no se si se puede regular desde ahí , o bien funciona el asus fan? . ( o sea por ahora la experiencia en esas tarjetas es cero, por falta de algunos componentes, no he podido terminar uno, y a veces conseguir ese componente puede tardar hasta 45 días o a veces ni llega, por lo que por ahora compro a través de una franquicia ) .

Saludos

[sakunix]

Es Obvio, las gráficas que menos problemas dan en Linux son las AMD, por los driver que ya están en el kernel.

En openSUSE al instalarlo ya van solos

[mikrios]

Hola:
No lo se,ya que no utilizo AMD,
Los drivers oficiales no se pueden incluir en el kenel,tienen que copilarse a pate (únicamente que la cosa hubiese cambiado) .
Para AMD, no se, pero si está en el kernel deben ser los genéricos , en nvidia , se usan los genéricos, se llaman Nouveau , después están los de los repositorios, la última vez que entre en el directorio, me encontré con un archivo de texto, donde mas o menos decía así : Nvidia cede este espacio a SUSE, según lo que decía da a entender que es una cortesia de nvidia para los drivers que saca, es decir SUSE kos compila y los pone ahí, o lo que es lo mismo, ese es su repositorio, es donde aparecen los que se instalan relacionados con su kernel en uso.
Y por último, están los drivers de nvidia (cuando entre en su directorio, me encontré una versión para 32bit y otra para 64bit, ahora no se como estará la cosa) .
Estos últimos son los que se compilan a parte (ademas de los de SUSE) , pero si cambia el kernel, lo mas probable es que se tenga que reinstalar .
Para ello se usa DKMS , el cual cuando cambia el kernel, este crea una recopilación de lib. y módulos a parte, los cuales son compatibles con el nuevo kernel, y el resultado es que los drivers, siguen funcionando . ( /etc/dkms/ directorio de nvidia compatible) .
El caso que he probado la instalación con dkms activo y no conseguí que funcionase con dkms, hice la misma prueba con Vbox de Oracle y dkms, creo un directorio para él, así que cada vez que se cambiaba el kernel, Vbox, seguía funcionando .

cita : En openSUSE al instalarlo ya van solos
Para nvidia pasa lo mismo, nouveau, hace que también haga eso .
En este tema, tengo que afinar lo máximo posible, e intentar conseguir una buena gráfica y no otro adorno o un pisapapeles y para eso no hay nada mejor que contar con la experiencia, de los que ya la han probado .
Muchas gracias y saludos cordiales .

[mikrios]

Hola:
Por ahora encontré 4 a 5 aplicaciones científicas, que usan la 4080 y 4090 (creo que son comerciales.

Hablan de una comparativa entre w11 y ubunto (gana w11, claro que no conozco las pruebas

.idem un articulo de intel de que el conector se queda corto, en cuanto alimentación, como que está diseñado para 300W a 320W, creo que no incluyen el extra para pcie de la PB

. aún así se queda corto. (si los cables y conexión se calienta, indica que la sección del cable es insuficiente, otro motivo, las corrientes coercitivas, falsos contactos y soldadura frías (fácil de solucionar y de comprobar) .

Los impedimentos para canarias, es la lejanía , por lo cual el régimen fiscal es distinto (igi 7%) , Islas Españolas que se consideran por muchas cosas, parte de CEE, pero por el régimen fiscal, se considera fuera, las compras a la peninsula, se consideran importación, o sea que tiene que pasar por Aduanas, en Canarias, lo que me parece mal, es que pase por La de Madrid y después la de canarias, debido a estas cosas y mas, muchos comerciantes no envían a canarias, ceuta , melilla y Baleares, y las que lo hacen puede retardar la entrega mas de 45 días.

La placa que voy a utilizar, es para pruebas de conductancia térmica (ejemplos motores ultrasonicos, geles y pastas con oxido de zinc, de aluminio, nitruro de aluminio, ( se excluye oxido de berilio, el polvo genera una enfermedad crónica y mortal en los pulmones) .
Elastomeros como borax ,borato y acetato de vinilo (cola blanca de carpintero) , mezclado con oxidos o otro tipo de cristalización natural del grafito .

Sistema Operativo, TW y Leap, en los otros SUSE y posiblemente windows .
Me queda por recopilar información del foro, y algunos componentes que me faltan .

Saludos

[elbitmalo]

Hola mikrios he visto este tema sobre las tarjetas gráficas nvidia y IA ,quería saber si sabes algo sobre esta plaquita para IA que comparada con una tarjeta gráfica nvidia sale mas económica la
nvidia jenson orin nano
de bajo consumo. Los módulos NVIDIA® Jetson Orin™ tienen hasta 275 billones de operaciones por segundo (TOPS) de 40 tops.

y también me gustaría saber como puedo instalar copilot en linux ,he visto algo en github.
gracias como siempre de antemano,perdón por abrir este tema despues de un mes.
Salud y Saludos

[mikrios]

Hola:
No te sabría decir.
Actualmente, estoy montando la 4090 (3 pcs , uno con la13900k y 2 con la 14900k) ,tengo 2 sobrinas, una con varias ramas de ingenieria superior, otra ingenieria sup. aeronautica, y otra medicina. otro sobrino ing.tco. informática rama empresariales, el cual le dieron una charla en su trabajo sobre IA, y me ha dado a entender que, juegan mas los cores, que las ALUS (Unidad Lógica Arimetica) , por lo cual no lo tengo muy claro,

Elegí las 4090, por que dicen que sirve para eso, idem la 4080, así que la que estudia medicina, le pondré una mas económica 4070ti.

Los equipos van todos con placas gama alta y con RL CUSTOM y yo que lo mas problema me da es los tubos rígidos , por soffware, vi algo por la web, después mi sobrino me paso uno opensource, para instalar una IA en mi pc, el otro se puede , pero es de pago.

Debido a eso, aún no he hecho una prueba, por lo que no se, como será, el resultado, para gráficos y diseño, me dice que valen, para una de mis sobrinas, no se si le será de ayuda.

Oto de los peros, es que aquí no tenemos nada, ahí que pedir fuera (y no solo lleva IA el S.O:, si no las placas base), caso que estoy intentando solucionar,

Una vez hecho eso, probare hardware (tener en cuenta que por lo menos he gastado mas de24K€ y aún me falta), ejemplo las de amd, etc

Actualmente no se nada, estoy estudiando temas de química, conductancia térmica, y modificaciones en las torres, cristal por metacrilato y sustituir rejillas por cristal .
(mi tema es un poco mas amplio, ing. informatica en arquitecturas y sistemas, teleco e industriales, para colmo, las cpus no son comerciales, si no otro tipo de gama, trabajando en nrz , modulación QAM y no me acuerdo de la constelación, para medidas un victoria, en flujos de ancho de banda.)

Por lo que los actuales, me quedo corto, vamos muy verde.

De que tenga algo,empezare hacer las pruebas . lo de la tarjeta, es hacer pruebas y comparaciones y ver que haya soft, para ella.

En el programa, no lo conozco.
Como ves, voy a paso de tortuga y mas o menos te he resumido mas de un mes que llevo con esto.
Saludos

[elbitmalo]

Hola mikrios ,por lo que se ve este lleva 12 núcleos arm y una gpu con 2048 núcleos con 64 núcleos de tensor que no se que es ,el precio va desde 0,5k € a 2,5k € nada que ver con sus 24k € ,se utiliza para robótica,imágenes y parlante ,fuera de red (autónomo).
Suerte con el montaje de su pc, " pedazo de maquina " ,leí hace poco un articulo que decía que había mas transistores que hormigas en la tierra", es increíble como avanza la tecnología.
Gracias por su respuesta.
Salud y Saludos

[mikrios]

Hola:
Este lleva muchos mas cores , aún así no deja de ser electrónica de consumo. (si por mi fuera, me iría por un xeon) .
Un grupo de amigos, usaron una cpu de sonido de 64 núcleos y programado en c. (para robótica, y por usar se pilla lo que se pueda. )

Aquí tenemos las cosas mas difíciles, estoy comprando a una franquicia y pago casi lo mismo que la peninsula, si es por el distribuidor, apenas tenemos material, Ejemplo en RL custom solo hay un comercio y no tiene casi nada (solo en su pag. web, pero pone sin stock)
(los 24, van por los 3 equipos y aún me falta material , pero como no hay,o no conozco la marca, tengo que esperar) .
Espero que a mis sobrinas, les sirva de algo (de paso me entretengo armando equipos y experimentando) .
Saludos

[elbitmalo]

Hola de nuevo:
Si pones una buena gráfica nvidia,un buen micro con buena cantidad de memoria y disco ,placa y complementos se va por lo menos a 6k €, si pones refrigeración por agua ,24k € no es tanto para 3 equipos.
Yo era como el recolector de basura de java recogiendo equipos desechados,pero después de recoger el Ryzen de gama media ,con una torre atx antigua y una placa msi de segunda mano me monte el equipo actual, así que ya no tengo el síndrome de diogenes.
Yo también tengo sobrina y le aconseje opensuse que tenia soporte para empresas ,pero se decidieron por OS de apple , creo que gastaron mas de 24k €, 5 pc de sobremesa , portátiles , tables ,teléfonos.
He aquí mi laboratorio.

como ves tengo que hacer limpieza.
Salud y Saludos.

[DiabloRojo]

@elbitmalo

He aquí mi laboratorio.

como ves tengo que hacer limpieza.

¡Que alivio!, ver que alguien lo tiene más guarrete que el mío.
Ahora ya no tengo prisa alguna por hacer limpieza de mi escritorio.

[elbitmalo]

Hola DiabloRojo ,tu también lo sufres en silencio, estuve a punto de ir al proyecto Hombre, es muy malo eso de sufrir el síndrome de Diogenes , no se lo deseo a nadie ,ni siquiera a mis enemigos, .
ya solo miro las torretas si tienen refrigeración por agua o que tenga una buena grafica, jeje .

Recuerdo cuando salieron las pantallas planas que tuve que tirar por lo menos 30 kilos de placas de televisores de tubo de rayos catódico.
Reparaba televisores mas o menos de 30 a 50 euros ,entonces en aquel tiempo le decía señora por 10 o 20 €uros mas se compra usted un televisor nuevo, plano y a color, hasta dejaron de suministrar repuestos de los tv de tubo.
Gracias por su comentario es muy instructivo.
Frito por que me llegue alguien y endiñarle el intel i3 ,que tengo arrinconado.
Salud y Saludos

[mikrios]

Hola:
Mas ordenado que lo mio, si es.
Saludos

[mikrios]

Hola:
En un reciente video, hace comentario, a que las tarjetas nvidia, son compatibles (creo que a partir de un nº determinado de cores y memoria, en si nombra a partir de la a2000) ; pero hace mención que dependiendo de la memoria, los efectos y cambios se producen en tiempo real. (el ejemplo se realiza con una 4090, en tiempo real, y que la serie 4000, creo que sea compatible) .

Ejemplo: KRITA tiene varias IAS, que pueden trabajar en local en un pc o bien de forma externa, ademas , puede crear de forma muy sencilla imágenes a partir de un sencillo boceto que tu dibujes, si es una modelo , puedes modificar el pose (posición) de como cambiar las piernas y manos , añadirle objetos, ponerle gafas etc.

Me supongo que la base de datos de la IA, sea externa , de ahí me planteo el derecho de ellas y el copy right, ya que algunas parecen ser sacadas de forma natural( modelos reales) .

Al respeto de openSUSE, se hace mención de alguna IA, incluso en las noticias y quizás en un futuro , próximo estas se incrementen.
Saludos .

[malcolmlewis]

Hola
K3s… open-webui+ollama

• Operating System: openSUSE Leap 15.5
• Motherboard: Intel DQ77MK
• CPU: Xeon Quad Core E3-1245 V2 @ 3.40GHz
• RAM: 32GB Dual Channel @ 1600 MT/s
• Storage: 128GB Silicon Power M.2 SSD
• Compute GPU: Nvidia Tesla P4

NAMESPACE        NAME                                                       READY   STATUS      RESTARTS          AGE
gpu-operator     nvidiagpu-node-feature-discovery-worker-tfdjr              1/1     Running     75 (3m48s ago)    14d
gpu-operator     nvidiagpu-node-feature-discovery-gc-b655cff4d-sptrv        1/1     Running     70 (3m48s ago)    14d
kube-system      local-path-provisioner-6c86858495-c7wxl                    1/1     Running     71 (3m48s ago)    14d
open-webui       open-webui-f78b9c5c8-gbf22                                 1/1     Running     11 (3m48s ago)    20h
gpu-operator     nvidia-container-toolkit-daemonset-q4tns                   1/1     Running     69 (3m48s ago)    14d
gpu-operator     nvidia-dcgm-exporter-8pxqk                                 1/1     Running     87 (3m48s ago)    13d
gpu-operator     nvidia-device-plugin-daemonset-qs8rz                       1/1     Running     104 (3m48s ago)   14d
gpu-operator     gpu-feature-discovery-k9hjz                                1/1     Running     80 (3m48s ago)    13d
kube-system      traefik-8689d58cbb-b6jrv                                   1/1     Running     70 (3m48s ago)    14d
kube-system      metrics-server-54fd9b65b-kk4wr                             1/1     Running     71 (3m48s ago)    14d
kube-system      coredns-6799fbcd5-zp265                                    1/1     Running     70 (3m48s ago)    14d
gpu-operator     nvidia-cuda-validator-nqt8r                                0/1     Completed   0                 3m28s
gpu-operator     gpu-operator-7c657d94df-sr77g                              1/1     Running     75 (3m48s ago)    14d
metallb-system   speaker-ldp6k                                              1/1     Running     71 (3m48s ago)    14d
metallb-system   controller-56bb48dcd4-5l2wg                                1/1     Running     70 (3m48s ago)    14d
gpu-operator     nvidiagpu-node-feature-discovery-master-65b655c945-648f8   1/1     Running     71 (3m48s ago)    14d
gpu-operator     nvidia-operator-validator-crpmk                            1/1     Running     60 (3m48s ago)    13d
ollama           ollama-5d4747b46c-qhffj                                    1/1     Running     4 (2m23s ago)     3h24m

[mikrios]

Hola:
Gracias @malcolmlewis , por la información , como no la conocía me puse a ver videos de demos y configuración del mismo (sin usar de proveedor a microsoft) .

Por otro lado, ha planteado dudas de la dependencia de la GPU , en estas cosas y quizás como futuro hardware, pueda ser la NPU ( unidad de procesamiento neural - Neural Processing Unit) , ya sea en un zócalo o bien incorporada en la CPU .

Vamos libera la carga de la GPU, creo que si esta en la CPU, una implementación de un nuevo kernel, y si está fuera un nuevo soft ; todo esto pueda crear un nuevo estándar, liberar en ciertas funciones al S.O. y ponerlo disponible a mas gente.

En definitiva un gran cambio .

Gracias y saludos cordiales .

PD. Ya hay equipos que disponen de una NPU, para determinadas operaciones , quien no le dice a uno/a, que la próxima sea un PC .

[malcolmlewis]

@mikrios https://es.wikipedia.org/wiki/Acelerador_de_IA ?

[mikrios]

Hola: gracias por la información.

Aunque veo que esto está creciendo, no se que nos depara el futuro, por lo pronto voy despejando dudas, sobre la npu, tenemos los icore ultra con npu incorporada : intel AI Boost , la pena es que no los he visto a la venta (tenía pensado una ws con xeon pcie 5.0 2 Tb ram, 8 channel, etc) , de haber sabido que había los ultra, al menos hubiese comprado uno .

En videos hay de todo tipo, sobre todo los open (sin censura) , mas los de pago, En local los datos para entrenar la IA , van dentro de la memoria de la GPU, aunque comentan que puede ir en ram y usar la cpu , lo que implica que iría mucho mas lento.

Actualmente estoy construyendo tres pcs, 2 de 14º generación y uno de 13º generación + la 4090 (hoy ya me han traído los sensores para la IA de las placas base ) , con lo que sigo construyendo a paso de tortuga los ordenadores (2 serán para mis sobrinas), pero uno de ellos, pienso disfrutarlo con openSUSE .

Por lo pronto voy aprendiendo, de esto y de lo que necesito, para llevar lo a cabo, ( en vez de comprar cosas que a lo mejor no me harían falta ) .

Muchas gracias y saludos cordiales .

PD. haber si consulto con un compañero del foro, el tema de usar 2 gráficas en un PC, uno, de los programas de IA, en local, llevan 40 y pico Gb de información en la memoria de la GPU ( y esta solo tiene 24Gb) , por la posibilidad de usar 2Gpus en vez de una sola .

[malcolmlewis]

@mikrios MPS https://docs.nvidia.com/deploy/mps/index.html

Tengo un borrador del documento PDF sobre lo que hice para configurar Open WebUI y Ollama, si estás interesado, aunque está en inglés.

[elbitmalo]

Hola a tod@s .gracias mikrios por su respuesta ,es increíble poder tener una IA en local, no sabemos lo que nos depara el futuro ,esto esta en pañales, pero avanza a pasos agigantados.
Abra que esperar un par de años para ver como intel y amd se lanzan a por la IA.
Salud y Saludos