Llama.cpp lädt als Alternative zu LM Studio und Ollama mit vielen Einstellungsmöglichkeiten zum Experimentieren ein. Wir erklären die Einrichtung.
]]>Llama.cpp lädt als Alternative zu LM Studio und Ollama mit vielen Einstellungsmöglichkeiten zum Experimentieren ein. Wir erklären die Einrichtung.
]]>
Wichtige Sicherheitsupdates schließen mehrere Schwachstellen in Nvidia CUDA Toolkit.
]]>
Red Hat verteilt künftig Nvidias CUDA-Toolkit direkt über seine Plattformen. Das soll die Bereitstellung GPU-beschleunigter KI-Anwendungen vereinfachen.
]]>
Zwar laufen in Macs keine Nvidia-GPUs mehr, dennoch soll Apples MLX nun bald auch dort laufen. Das macht interessante Portierungen möglich.
]]>
Nach Kritik aus der Community hat sich Nvidia entschlossen, mit dem Warp-Framework in die Apache-2-Lizenz zu wechseln.
]]>
Zwei KI-Modelle sollen eine mathematische Software-Bibliothek modernisieren – zumeist erstaunlich erfolgreich – an einer Aufgabe scheiterten sie jedoch.
]]>
Wir erklären die wichtigsten Quantisierungsmethoden, mit denen Sprachmodelle wie ChatGPT Energie und Kosten sparen und sogar lokal auf Smartphones laufen.
]]>
KI-Entwickler, die Amazons Trainium-Chips statt Nvidia-Chips für ihre KI-Modelle nutzen, erhalten freien Zugang zu den Cloud-Rechenzentren des Konzerns.
]]>
Das ist neu: TensorFlow 2.18 bindet die aktuelle Version 2.0 von NumPy ein und verzichtet mit Hermetic CUDA künftig beim Build auf lokale CUDA-Bibliotheken.
]]>
Der Präsident der französischen Autorité de la concurrence hat bestätigt, dass die Behörde Ermittlungen gegen Nvidia eingeleitet hat.
]]>
Pyhton-Projekte können mit der neuen Nvidia-Bibliothek für Cuda-X schnelle algebraische Berechnungen bei geringem Overhead ausführen.
]]>
Nvidia kommt in einem Bericht der französischen Kartellbehörde schlecht weg. Angeblich werden bereits Maßnahmen vorbereitet.
]]>
Massiv paralleles Rechnen ist die Paradedisziplin von GPUs. Nicht nur aus diesem Grund kommt Machine Learning nicht ohne sie aus.
]]>
A new programming language for ML is emerging: Mojo is a Python superset with additional functions. Chris Lattner, the creator of Swift and LLVM, is behind it.
]]>
Eine neue Programmiersprache für ML entsteht: Mojo ist ein Python-Superset mit zusätzlichen Funktionen. Dahinter steht Chris Lattner, der Schöpfer von Swift.
]]>
Nvidia hat wichtige Sicherheitsupdates für verschiedene Produkte veröffentlicht. Admins sollten schnell handeln.
]]>
Mit Version 11.8 richtet Nvidia seine Programmierplattform CUDA schrittweise auf die spezifischen Fähigkeiten der GPU-Plattformen Hopper und Ada Lovelace aus.
]]>
Nvidia hat die Verfügbarkeit der CUDA-Version 11.7 bekanntgegeben, die neben neuen Open GPU Kernel-Modulen jetzt auch das "Lazy Loading" zu bieten hat.
]]>
Mit dem Update der Programmierplattform CUDA reicht Nvidia auch neue Funktionen für den Cooperative Groups Namespace nach.
]]>
Das Update der Programmierplattform CUDA ermöglicht den erweiterten Einsatz verschiedener Datentypen und bietet über CUDA Python direkteren Zugriff auf APIs.
]]>
Die ML-Bibliothek PyTorch hat in Version 1.10 Breaking Changes im Gepäck. Gleichzeitig veröffentlichte Microsoft die erste Preview für PyTorch-DirectML.
]]>
Die Open-Source-Programmiersprache zum Erstellen von Deep-Learning-Anwendungen setzt auf Python und automatisiert die Optimierung der GPU-Architektur.
]]>
Das Heterogeneous-Computing Interface for Portability konvertiert CUDA-Anwendungen in portierbaren C++-Code und ist Bestandteil des aktuellen CMake-Release.
]]>
Das neue Release der quelloffenen Implementierung des OpenCL-Standards verspricht höhere Leistung für CUDA und erweiterte Paketierungsoptionen.
]]>
Die aktuelle Version der ML-Plattform zielt auf Parität zwischen Python- und C++-Frontend und bietet ein Modul zum Implementieren von FFT-bezogenen Funktionen.
]]>
Für 59 US-Dollar verkauft Nvidia einen Einplatinencomputer mit vier ARM-Kernen sowie Maxwell-GPU als CUDA-Rechenbeschleuniger und Video-Engine.
]]>
Der bislang nur in Nvidias CUDA-Plattform zu findende Fork der C++-Standardbibliothek des LLVM-Projekts ist nun auf GitHub zu finden.
]]>
Passend zur neuen GPU-Generation Ampere hat Nvidia auch die Programmierplattform CUDA aktualisiert.
]]>
Bis zu zwanzigmal mehr Leistung gegenüber dem Vorgänger – Google verspricht mit seinen neuen A2-VMs GPU-Leistung satt dank Nvidias A100-GPUs.
]]>
Die neue Hauptversion von Nvidias Programmierplattform bietet zahlreiche neue Funktion für GPU-beschleunigte Anwendungen auf Basis der Ampere-GPUs.
]]>
Nvidias Programmierplattform beendet mit der kommenden Version die Unterstützung für macOS. Neue Nvidia-Treiber für Macs wird es wohl keine mehr geben.
]]>
Unsere Übersicht der kleinen, aber interessanten Meldungen enthält diese Woche unter anderem Django, CUDA und GitLab.
]]>
Das Open-Source-Projekt BlazingSQL ist eine GPU-beschleunigte, für die Integration in RAPIDS entwickelte SQL-Engine.
]]>
Die neue Bibliothek soll mit flexibler API und Tensorkernunterstützung für INT8-Inputs und anormal-komplexe Matrix-Multiplikationen bei FP16 aufwarten.
]]>
Nvidias Quadro RTX 4000 beschleunigt vor allem Raytracing-Anwendungen und richtet sich vornehmlich an Design-Profis. Sie kostet rund 900 US-Dollar.
]]>
Die neueste Version von Nvidias Parallelprogrammierungswerkzeug unterstützt die Turing GPUs und bietet Entwicklern verbesserte sowie erneuerte Tools.
]]>
Die nächste Version des Parallelprogrammierungswerkzeugs wird die neueste Generation der Nvidia-GPUs unterstützen.
]]>
Das neueste Release von Nvidias GPU-Programmierschnittstelle beschleunigt rekurrente und Convolutional Neural Networks, dank Optimierungen der cuBLAS-Library.
]]>
Die neunte Version von Nvidias GPU-Programmierschnittstelle wurde speziell für den Einsatz mit den Volta-GPUs ausgelegt. Das jüngste Release bringt weitere Optimierungen und neue Algorithmen für HPC und Neuronale Netze.
]]>
Die nächste Version von Nvidias GPU-Programmierschnittstelle weist neben etlichen Performancearbeiten auch schon Unterstützung für die nächste GPU-Generation Volta auf.
]]>
Mit ROCr und ROCm möchte AMD den Platzhirsch Nvidia und dessen CUDA herausfordern. Die Ansätze sind vielversprechend, aber an einigen Stellen muss das Unternehmen noch nacharbeiten.
]]>
Die kommende CUDA-Version 9 unterstützt die neue Volta-GPU, erlaubt die Programmierung der Tensor Cores und integriert das neue Programmiermodell Cooperative Groups.
]]>
Nvidia stellt gleich sechs neue Quadro-Grafikkarten mit Pascal-Grafikchips vor. Die schnellste Profikarte heißt Quadro GP100. Sie bietet 16 GByte HBM2-Speicher und NVLink als Kopplungsverbindung.
]]>
Ab dem 1. Dezember können Azure-Kunden N-Series-VMs buchen, die Tesla K80 und M60 von Nvidia verwenden. Für Anfangt 2017 kündigt auch Google Cloud-Instanzen mit GPUs von Nvidia und AMD an.
]]>
Die wichtigste Neuerung von Nvidias Plattform für parallele Programmabläufe ist der Support für die Pascal-GPU-Plattform. Dazu gehört auch die erweiterte Möglichkeit der Speicheradressierung bei der gemeinsamen Nutzung von GPU und CPU.
]]>
Zur Unterstützung für die neue Pascal-GP100-GPU bringt Nvidias Plattform für parallele Programmabläufe unter anderem ein vereinheitlichtes Speichermodell.
]]>
AMDs Open-Source-Initiative spricht zum einen Spieleentwickler und zum anderen Entwickler von HPC-Anwendungen an. Der Chiphersteller veröffentlicht nun zahlreiche SDKs und Werkzeuge auf GitHub.
]]>
Je mehr sich Quadrocopter vom Spielzeug zu fliegenden Serviceplattformen mausern, desto mehr ist die Bord-Hardware gefordert. DJI legt mit einem Set-Top-Rechner im Format einer quadratischen Schokoladentafel nach.
]]>
Neue Features in Nvidias Visual Profiler helfen, gezielter Codebereiche und Assembler-Instruktionen identifizieren zu können, die für Performanceprobleme in der Plattform für parallele Berechnungen sorgen.
]]>
Neben der Möglichkeit, C++-Features wie Lambdas und auto einzusetzen, finden Entwickler in der aktuellen Version des Kits zur Parallelprogrammierung auch eine Bibliothek, um Gleichungssysteme und Eigenwertprobleme zu lösen.
]]>
Registrierte CUDA-Entwickler haben nun Zugriff auf eine Vorabversion der kommenden Version des Toolkits zur Parallelprogrammierung. Es soll unter anderem Support für C++11-Features und eine Bibliothek zum Kompilieren zur Laufzeit enthalten.
]]>Das Erscheinen von CUDA 6 ist gerade mal vier Monate her, da gibt es schon ein neues Release, über das sich dieses mal auch Fortran-Entwickler freuen dürfen.
]]>In aktuellen Grafikkarten und Prozessoren stecken hochspezialisierte Transcoder-Schaltungen, die HD-Videos blitzschnell umwandeln. Bei der Qualität muss man aber hier und da Abstriche machen.
]]>Softwareentwickler sollen mit der neuen Version der Architektur für parallele Berechnungen bei ihren Programmen den Aufwand und die Zeit für die Beschleunigung durch die GPU deutlich verringern können.
]]>Ab sofort ist das Developer-Kit Jetson TK1 mit dem ARM-SoC Tegra K1 bestellbar, welches vier ARM Cortex-A15 mit einer Kepler-GPU mit 192 CUDA-Kernen vereint – zum Preis von 192 US-Dollar.
]]>Softwareentwickler sollen mit der neuen Version der Plattform für parallele Berechnungen den Aufwand und die erforderliche Zeit für die Beschleunigung ihrer Applikationen für GPUs deutlich reduzieren können.
]]>Über das mit dem hUMA-Konzept der Heterogeneous System Architecture vergleichbare Programmiermodell erhalten Programme via CUDA-Direktiven Zugriff auf den Speicher von CPUs und GPUs, ohne dass manuell Daten jeweils hin und her kopiert werden müssten.
]]>Die neue Version der Analyse- und Entwicklungswerkzeuge zum Erstellen GPU-gestützter Anwendungen in Visual Studio soll nun außerdem mit Windows 8 funktionieren und die Arbeit mit OpenGLs DSA-Erweiterung ermöglichen.
]]>Die von einem Wissenschaftler der Indiana University entwickelte Sprache ist aus der Frage heraus entstanden, wie eine Sprache auszusehen hat, die dafür entworfen wurde, von Anfang an die GPU-Programmierung zu unterstützen.
]]>Die Developer Snapshots diese Woche unter anderem mit den Eclipse Code Recommenders, CUDA, Oracles R-Paket, Ruby-Entwicklung in der Cloud, NHibernate und Qt.
]]>Entwickler mit Zugang für Nvidias Developer Zone haben nun Zugriff auf den Release Candidate der nächsten größeren Version der Plattform und Architektur zur Parallelprogrammierung.
]]>Der Tegra-4-Nachfolger nutzt eine Kepler-GPU und bringt CUDA auf Handys und Tablets. Tegra 6 bietet 64-bittige ARM-Kerne und soll um den Faktor 100 schneller sein als Tegra 2.
]]>Mit dem von Continuum Analytics vorgestellten NumbaPro sollen auch Python-Entwickler das parallele Programmiermodell von CUDA nutzen können. Nvidia sieht die neue Unterstützung als Erfolg ihrer CUDA-LLVM-Initiative.
]]>Die italienische Firma E4 Computer Engineering kündigt zwei "Microcluster" mit acht oder zwölf Knoten und acht bis 24 Nvidia-Quadro-Grafikprozessoren an; dank ARM-SoCs sollen sie besonders effizient rechnen.
]]>Die finale Version 5.0 der CUDA-Schnittstelle unterstützt unter anderem Dynamic Parallelism und GPU Library Object Linking. Einige Funktionen laufen nur auf den GK110-GPUs der Tesla-K20-Rechenkarten.
]]>Mit dem quelloffenen Rootbeer GPU Compiler sollen sich Java-Programme auf Grafikprozessoren ausführen lassen.
]]>Apples neue 15-Zoll-Laptops sollen sich besonders gut für die Entwicklung mit Nvidias paralleler Rechenarchitektur CUDA eignen. Insbesondere dann, wenn die Anwendungen unter Linux ausgeführt würden.
]]>Einen tiefen Einblick ins Innenleben des GK110-Chips gaben zwei Nvidia-Mitarbeiter auf der GPU Technology Conference. Die GPU ist speziell fürs Supercomputing optimiert.
]]>Noch 2012 soll die erste Tesla-Rechenkarte K20 mit GK110-GPU erscheinen. Dank Hyper-Q und Dynamic Parallelism sollen sich Programme effizienter verarbeiten und programmieren lassen.
]]>Auf der Rechenkarte Tesla K10 sitzen gleich zwei GK104-Grafikchips. Sie bieten eine hohe Single-Precision-Leistung und greifen auf insgesamt 8 GByte Speicher zu.
]]>Nvidia stellt eine Eclipse-Edition der CUDA-Entwicklersuite Nsight für Linux und Mac OS vor.
]]>Nvidia will auf der GPU Technology Conference Mitte Mai offenbar die Schnittstelle CUDA 5.0 und die neue Kepler-GPGPU-Architektur präsentieren.
]]>Von dem auf der quelloffenen Low Level Virtual Machine aufbauenden Compiler verspricht sich der Hersteller von Grafikprozessoren und Chipsätzen ein etwa 10 Prozent schnelleres Anwendungsverhalten.
]]>Die Developer Snapshots in dieser Woche unter anderem mit Apache Camel, CUDA, Spring Roo, Samsungs Smart TV SDK, einem Ausblick auf Galera 2.0 für InnoDB, einem Crawler für AJAX-Apps und Infos zum PHP Manual.
]]>NVIDIA hat den Quellcode seines CUDA-Compilers veröffentlicht. Er ist Teil der aktuellen Version des CUDA-Toolkits und soll das System für weitere Plattformen wie AMD und Intel interessant machen.
]]>Die Developer Snapshots in dieser Woche unter anderem mit PHP 5.4, VirtualBox, NetBeans und einer Python-Konferenz.
]]>Unter den Neuerungen der Version 4 von Nvidias Compute Unified Device Architecture finden sich die Unterstützung von GPU Direct 2.0, Unified Virtual Adressing und der C++-Template-Bibliothek Thrust.
]]>Die Compute Unified Device Architecture bringt in der vierten Version zum Teil erheblich höhere Performance bei Datentransfers, ein weit einfacheres Programmiermodell dank Uniform Virtual Memory und mehr Debug-Möglichkeiten.
]]>Nvidia veröffentlicht eine neue, um neue mathematische Bibliotheken erweiterte Version des Entwicklerpakets zum Schreiben von CUDA-Programmen. Im Zentrum der Neuerungen standen Performanceüberarbeitungen.
]]>Das Parallel Computing Toolkit von Matlab und Ansys Mechanical laufen mit Hilfe von CUDA-GPUs deutlich flinker. Und 3ds-max-Entwickler freuen sich über einen GPGPU-Raytracer.
]]>CUDA-Programme sollen zukünftig auch auf Hauptprozessoren laufen. Dafür sorgt ein kostenpflichtiger Compiler von PGI.
]]>Die im Juli erstmals vorgestellte Entwickler-Suite Parallel Nsight unterstützt nun auch Microsofts aktuellste Ausgabe der Entwicklungsumgebung.
]]>Unter dem Namen Parallel Nsight schnürt Nvidia die für Windows, Linux und MacOS in den CUDA-Toolkits zumeist schon vorhandenen GPU-Entwickler-Tools für den Einsatz unter Windows zu einem Paket zusammen, sodass man nun bequem aus Microsofts Visual Studio heraus debuggen, inspizieren, profilieren und auch analysieren kann.
]]>Das neue Toolkit soll die Möglichkeiten der Fermi-Architektur weit besser ausreizen und Anwendungsgebiete wie Microsoft Excel erschließen.
]]>Noch vor dem Erscheinen der ersten Grafikkarten mit Fermi-Chips hebt Nvidia die Entwicklungsumgebung CUDA auf Version 3.0 an.
]]>Fixstars bietet jetzt eine für das GPU-Computing mit Nvidia-Karten optimierte Version von Yellow Dog Linux mit CUDA-Unterstützung an.
]]>Die geringen Zugriffszeiten von schnellen, modernen Flash-Speichern ermöglichen das Auslagern größerer Rainbow-Tables auf den Massenspeicher.
]]>Die PGI-2010-Produktlinie setzt das Accelerator-Programmiermodell für Prozessor-Architekturen auf CUDA-Basis um und enthält PGIs CUDA Fortran Compiler.
]]>Harvard-Professor Hanspeter Pfister wies in seiner Keynote im Rahmen der GPU Technology Conference auf die wachsende Bedeutung von Grafikchips im Forschungsbereich hin.
]]>Das Ergebnis der im Juni 2009 zustande gekommenen Kooperation ist der jetzt in einer öffentlichen Beta vorgestellte PGI CUDA Fortran Compiler.
]]>Der Anbieter von Grafikprozessoren und Chipsätzen Nvidia hat seine mit der OpenCL-1.0-Spezifikation konform gehenden Treiber veröffentlicht; dazu koommt ein Profiling-Werkzeug für die Beschleunigung der OpenCL-Treiber.
]]>Mitte September richtet Nvidia gemeinsam mit der Entwickler-Community TopCoder einen Programmierwettbewerb aus. Die Programme müssen dabei für die Ausführung auf GeForce-Grafikchips zugeschnitten sein.
]]>Via Elemental-Accelerator-Plugin lässt sich die Enkodierung von H.264-Videos in Adobes Premiere Pro CS4 mithilfe moderner Grafikchips beschleunigen. Unterstützt werden ausschließlich Quadro-Grafikkarten.
]]>Die Windows-Freeware MediaCoder beschleunigt auf Nvidia-Grafikkarten die Videokodierung in MPEG-4 AVC (H.264) mittels CUDA.
]]>Nvidia hebt die GPGPU-Unterstützung von DirectX 11 hervor und zeigt fast neue Ion-Hardware – aber keinen GT300.
]]>Mit der aktualisierten Programmierschnittstelle lassen sich Nvidia-Grafikkarten nun auch unter Windows 7 als Applikationsbeschleuniger verwenden.
]]>CyberLink hat mit MediaShow Espresso einen für Intel Core i7 optimierten Videokonverter veröffentlicht, der von den GPU-Beschleunigungsfunktionen aktueller Grafikkarten profitieren soll.
]]>