Floating Point. Jak je reprezentovaný a proč někdy nefunguje. 2. června 2013
|
|
- Pavel Soukup
- před 7 lety
- Počet zobrazení:
Transkript
1 Floating Point Jak je reprezentovaný a proč někdy nefunguje Augustin Žídek augus tin< at>zidek< dot> eu 2. června 2013
2 Historie Leonardo Torres y Quevedo 1914 Analytical Engine s floating point
3 Historie Leonardo Torres y Quevedo 1914 Analytical Engine s floating point Floating point vs fixed point (von Neumann)
4 Historie Leonardo Torres y Quevedo 1914 Analytical Engine s floating point Floating point vs fixed point (von Neumann) Různé implementace až do 1985 IEEE
5 Post IEEE-754 Raketa Ariane 5 (1996), 10 let vývoje, 7 miliard dolarů
6 Post IEEE-754 Raketa Ariane 5 (1996), 10 let vývoje, 7 miliard dolarů Konvertovali 64-bitový float na 16-bitový int Neočekávaný overflow
7 Post IEEE-754 Raketa Ariane 5 (1996), 10 let vývoje, 7 miliard dolarů Konvertovali 64-bitový float na 16-bitový int Neočekávaný overflow Burza ve Vancouveru (1983)
8 Post IEEE-754 Raketa Ariane 5 (1996), 10 let vývoje, 7 miliard dolarů Konvertovali 64-bitový float na 16-bitový int Neočekávaný overflow Burza ve Vancouveru (1983) Index podhodnocený o 44 % Zaokrouhlovací chyba se sbírala 22 měsíců
9 Post IEEE-754 Raketa Ariane 5 (1996), 10 let vývoje, 7 miliard dolarů Konvertovali 64-bitový float na 16-bitový int Neočekávaný overflow Burza ve Vancouveru (1983) Index podhodnocený o 44 % Zaokrouhlovací chyba se sbírala 22 měsíců Střely Patriot (1991)
10 Post IEEE-754 Raketa Ariane 5 (1996), 10 let vývoje, 7 miliard dolarů Konvertovali 64-bitový float na 16-bitový int Neočekávaný overflow Burza ve Vancouveru (1983) Index podhodnocený o 44 % Zaokrouhlovací chyba se sbírala 22 měsíců Střely Patriot (1991) 28 mrtvých, nepřesnost 1/20 s kvůli 24-bitovým float
11 Post IEEE-754
12 Reprezentace vědecká notace mantisa 8 exponent
13 Reprezentace floatu (= 3648)
14 Reprezentace floatu (= 3648) Float +/ Exponent Mantisa (1+8+23) bitů
15 Reprezentace floatu (= 3648) Float +/ Exponent Mantisa (1+8+23) bitů Double +/ Exponent Mantisa ( ) bitů
16 Reprezentace floatu mantisa Mantisa normalizovaná: 1 mantisa < 2
17 Reprezentace floatu mantisa Mantisa normalizovaná: 1 mantisa < 2 Vždy 1 na začátku není třeba ukládat (hidden bit)
18 Reprezentace floatu mantisa Mantisa normalizovaná: 1 mantisa < 2 Vždy 1 na začátku není třeba ukládat (hidden bit) mantisa = Jaké číslo je reprezentováno?
19 Reprezentace floatu mantisa Mantisa normalizovaná: 1 mantisa < 2 Vždy 1 na začátku není třeba ukládat (hidden bit) mantisa = Jaké číslo je reprezentováno? 1 + 1/4 = 1.25
20 Reprezentace floatu exponent Exp (bin) Exp (dec) Hodnota pokud mantisa = inf pokud mantisa = 0, jinak NaN
21 Reprezentace floatu exponent Exp (bin) Exp (dec) Hodnota pokud mantisa = inf pokud mantisa = 0, jinak NaN double:
22 Reprezentace floatu denormalizovaná mantisa Pokud exponent = 0, stává se mantisa denormalizovaná =
23 Cvičení Double +/ Exponent Mantisa
24 Cvičení Double +/ Exponent Mantisa x
25 Cvičení Double +/ Exponent Mantisa x = -0.0
26 Cvičení Double +/ Exponent Mantisa x = x
27 Cvičení Double +/ Exponent Mantisa x = x = 1.5 * 2^1
28 Cvičení Double +/ Exponent Mantisa x = x = 1.5 * 2^1 0x7FF
29 Cvičení Double +/ Exponent Mantisa x = x = 1.5 * 2^1 0x7FF = +Infinity
30 Cvičení Double +/ Exponent Mantisa x = x = 1.5 * 2^1 0x7FF = +Infinity 0x7FF A 0000
31 Cvičení Double +/ Exponent Mantisa x = x = 1.5 * 2^1 0x7FF = +Infinity 0x7FF A 0000 = NaN
32 Největší, nejmenší Největší float: =
33 Největší, nejmenší Největší float: = Největší double: =
34 Největší, nejmenší Největší float: = Největší double: = Nejmenší záporné analogicky
35 Největší, nejmenší Největší float: = Největší double: = Nejmenší záporné analogicky Co nejmenší pozitivní? Pozor na denormalizované!
36 Největší, nejmenší Největší float: = Největší double: = Nejmenší záporné analogicky Co nejmenší pozitivní? Pozor na denormalizované! Nejmenší float: =
37 Největší, nejmenší Největší float: = Největší double: = Nejmenší záporné analogicky Co nejmenší pozitivní? Pozor na denormalizované! Nejmenší float: = Nejmenší double: =
38 Největší, nejmenší Největší float: = Největší double: = Nejmenší záporné analogicky Co nejmenší pozitivní? Pozor na denormalizované! Nejmenší float: = Nejmenší double: = Viz proměnné Float a Double
39 Machine epsilon Definice: Rozdíl mezi 1.0 a nejmenším reprezentovatelným číslem, které je větší než jedna.
40 Machine epsilon Definice: Rozdíl mezi 1.0 a nejmenším reprezentovatelným číslem, které je větší než jedna. Minimální rozdíl mezi čísly aby byla považována za nestejná.
41 Machine epsilon Definice: Rozdíl mezi 1.0 a nejmenším reprezentovatelným číslem, které je větší než jedna. Minimální rozdíl mezi čísly aby byla považována za nestejná. Float: E-7 Double: E-16
42 Machine epsilon Definice: Rozdíl mezi 1.0 a nejmenším reprezentovatelným číslem, které je větší než jedna. Minimální rozdíl mezi čísly aby byla považována za nestejná. Float: E-7 Double: E-16 Jednoduché vypočítat
43 Porovnávání float lze porovnávat bitově jako int Double +/ Exponent Mantisa
44 První úskalí Jak je reprezentováno 0.1?
45 První úskalí Jak je reprezentováno 0.1?
46 Aritmetika násobení a dělení (a 2 n ) (b 2 m ) = a b 2 n+m (a 2 n )/(b 2 m ) = a/b 2 n m + normalizace
47 Aritmetika sčítání a odčítání
48 Aritmetika sčítání a odčítání 1. Denormalizuj na větší číslo =
49 Aritmetika sčítání a odčítání 1. Denormalizuj na větší číslo = Sečti/odečti =
50 Aritmetika sčítání a odčítání 1. Denormalizuj na větší číslo = Sečti/odečti = Normalizuj =
51 Je sčítání asociativní? ( E40) - 1.0E40 = (1.0E40-1.0E40)
52 Je sčítání asociativní? ( E40) - 1.0E40 = (1.0E40-1.0E40) Hmm, někdy není...
53 Sčítání řad n 1 n
54 IEEE-754 zaokrouhlování
55 IEEE-754 zaokrouhlování Zaokrouhlování s preferencí sudé číslice (unbiased rounding)
56 IEEE-754 zaokrouhlování Zaokrouhlování s preferencí sudé číslice (unbiased rounding) 1.5. = 2.0, 2.5. = 2.0, 3.5. = 4.0
57 IEEE-754 zaokrouhlování Zaokrouhlování s preferencí sudé číslice (unbiased rounding) 1.5. = 2.0, 2.5. = 2.0, 3.5. = 4.0 Výhoda: Statisticky stejně často.5 zaokrouhleno nahoru a dolu
58 IEEE-754 zaokrouhlování Zaokrouhlování s preferencí sudé číslice (unbiased rounding) 1.5. = 2.0, 2.5. = 2.0, 3.5. = 4.0 Výhoda: Statisticky stejně často.5 zaokrouhleno nahoru a dolu Ukázky RoundingProblem a RoundingProblem2
59 Co s tím
60 Co s tím print(random()) alespoň intelektuálně upřímné
61 Co s tím print(random()) alespoň intelektuálně upřímné Použití knihoven (Apfloat, JScience), nástrojů (Matlab, Octave)
62 Co s tím print(random()) alespoň intelektuálně upřímné Použití knihoven (Apfloat, JScience), nástrojů (Matlab, Octave) V Javě BigDecimal
63 BigDecimal Libovolná přesnost, nástroje pro manipulaci
64 BigDecimal Libovolná přesnost, nástroje pro manipulaci Naprostá kontrola zaokrouhlování ideální pro finanční matematiku
65 BigDecimal Libovolná přesnost, nástroje pro manipulaci Naprostá kontrola zaokrouhlování ideální pro finanční matematiku docs.oracle.com/javase/7/docs/api/java/math/bigdecimal.html
66 Dotazy, řešení problémů? augus tin< at> zide k< dot> eu
67 Děkuji za pozornost
Čísla v plovoucířádovéčárce. INP 2008 FIT VUT v Brně
Čísla v plovoucířádovéčárce INP 2008 FIT VUT v Brně Čísla v pevné vs plovoucí řádové čárce Pevnářádováčárka FX bez desetinné části (8 bitů) Přímý kód: 0 až 255 Doplňkový kód: -128 až 127 aj. s desetinnou
VíceZákladní principy zobrazení čísla Celá čísla s pevnou řádovou čárkou Zobrazení reálných čísel Aritmetika s binárními čísly
Počítačové systémy Zobrazení čísel v počítači Miroslav Flídr Počítačové systémy LS 2007-1/21- Západočeská univerzita v Plzni Vážený poziční kód Obecný předpis čísla vyjádřeného v pozičním systému: C =
VíceUMÍ POČÍTAČE POČÍTAT?
UMÍ POČÍTAČE POČÍTAT? O ÚSKALÍCH POČÍTAČOVÉ ARITMETIKY RNDr. Iveta Hnětynková, PhD. Katedra numerické matematiky VÝPOČTY A SIMULACE Aplikace: chemie, fyzika, lekařství, statistika, ekonomie, stojírenství,...
VíceArchitektury počítačů
Architektury počítačů IEEE754 České vysoké učení technické, Fakulta elektrotechnická A0M36APO Architektury počítačů Ver.1.20 2014 1 Fractional Binary Numbers (zlomková binární čísla / čísla v pevné řádové
VíceStruktura a architektura počítačů (BI-SAP) 6
Evropský sociální fond Praha & EU: Investujeme do vaší budoucnosti Struktura a architektura počítačů (BI-SAP) 6 doc. Ing. Hana Kubátová, CSc. Katedra číslicového návrhu Fakulta informačních technologii
VíceJak v Javě primitivní datové typy a jejich reprezentace. BD6B36PJV 002 Fakulta elektrotechnická České vysoké učení technické
Jak v Javě primitivní datové typy a jejich reprezentace BD6B36PJV 002 Fakulta elektrotechnická České vysoké učení technické Obsah Celočíselný datový typ Reálný datový typ Logický datový typ, typ Boolean
Více1. Chyby vstupních dat metody převedení úlohy na numerickou (řád použité metody) zaokrouhlovací reprezentace čísel v počítači
1. Chyby vstupních dat metody převedení úlohy na numerickou (řád použité metody) zaokrouhlovací reprezentace čísel v počítači 2. Reprezentace čísel v Pascalu celá čísla Typ Rozsah Formát shortint 128..127
VíceProgramování v jazyce C pro chemiky (C2160) 12. Specifické problémy při vývoji vědeckého softwaru
Programování v jazyce C pro chemiky (C2160) 12. Specifické problémy při vývoji vědeckého softwaru Reprezentace reálnách čísel v počítači Reálná čísla jsou v počítači reprezentována jako čísla tvaru ±x
VíceAhoj mami. Uložení dat v počítači. Příklady kódování dat. IAJCE Přednáška č. 4
Uložení dat v počítači Data = užitečné, zpracovávané informace Kódování (formát) dat = způsob uložení v počítači (nutno vše převést na čísla ve dvojkové soustavě) Příklady kódování dat Text každému znaku
VíceC2115 Praktický úvod do superpočítání
C2115 Praktický úvod do superpočítání IX. lekce Petr Kulhánek, Tomáš Bouchal kulhanek@chemi.muni.cz Národní centrum pro výzkum biomolekul, Přírodovědecká fakulta, Masarykova univerzita, Kotlářská 2, CZ-61137
VícePrincipy počítačů I Reprezentace dat
Principy počítačů I Reprezentace dat snímek 1 Principy počítačů Část III Reprezentace dat VJJ 1 snímek 2 Symbolika musí být srozumitelná pro stroj, snadno reprezentovatelná pomocí fyzikálních veličin vhodně
VícePohyblivářádováčárka
MI-AAK(Aritmetika a kódy) Pohyblivářádováčárka c doc. Ing. Alois Pluháček, CSc., 2011 Katedra číslicového návrhu Fakulta informačních technologií České vysoké učení technické v Praze Evropský sociální
VíceREPREZENTACE DAT. Principy počítačů I. Literatura. Literály. Typy dat. Literály. Čísla Instrukce. Znaky. Logické hodnoty
Principy počítačů I REPREZENTACE DAT Literatura D.Goldberg: What Every Computer Scientist Should Know About Floating-Point Arithmetic IA-32 Intel Architecture Software Developer s Manual (Vol. Basic Architecture)
VíceFaculty of Nuclear Sciences and Physical Engineering Czech Technical University in Prague
1 / 38 Faculty of Nuclear Sciences and Physical Engineering Czech Technical University in Prague 1 2 3 4 5 6 2 / 38 2 / 38 čárkou Definition 1 Bud základ β N pevně dané číslo β 2, x bud reálné číslo s
Vícev aritmetické jednotce počíta
v aritmetické jednotce počíta tače (Opakování) Dvojková, osmičková a šestnáctková soustava () Osmičková nebo šestnáctková soustava se používá ke snadnému zápisu binárních čísel. 2 A 3 Doplněné nuly B Číslo
VíceData v počítači. Informační data. Logické hodnoty. Znakové hodnoty
Data v počítači Informační data (elementární datové typy) Logické hodnoty Znaky Čísla v pevné řádové čárce (celá čísla) v pohyblivé (plovoucí) řád. čárce (reálná čísla) Povelová data (instrukce programu)
VícePJC Cvičení #2. Číselné soustavy a binární reprezentace proměnných
PJC Cvičení #2 Číselné soustavy a binární reprezentace proměnných Číselné soustavy Desítková (decimální) kdo nezná, tak...!!! Dvojková (binární) - nejjednodušší Šestnáctková (hexadecimální) - nejpoužívanější
VíceDatové typy a jejich reprezentace v počítači.
Datové typy a jejich reprezentace v počítači. Celá čísla. Reálná čísla. Semilogaritmický tvar. Komplexní čísla. Řetězce. Tomáš Bayer bayertom@natur.cuni.cz Katedra aplikované geoinformatiky a kartografie,
VíceAplikovaná numerická matematika
Aplikovaná numerická matematika 1. Úvod do ANM doc. Ing. Róbert Lórencz, CSc. České vysoké učení technické v Praze Fakulta informačních technologií Katedra počítačových systémů Příprava studijních programů
VícePrincipy počítačů a operačních systémů
Principy počítačů a operačních systémů Aritmetika v počítači Zimní semestr 2011/2012 Úvod Jak hardware provádí aritmetické operace? sčítání/odčítání, násobení a dělení Co když výsledek operace nelze reprezentovat?
VíceAlgoritmy a datové struktury
Algoritmy a datové struktury Data a datové typy 1 / 28 Obsah přednášky Základní datové typy Celá čísla Reálná čísla Znaky 2 / 28 Organizace dat Výběr vhodné datvé struktry různá paměťová náročnost různá
VícePokročilá algoritmizace amortizovaná složitost, Fibonacciho halda, počítačová aritmetika
amortizovaná složitost, Fibonacciho halda, počítačová aritmetika Jiří Vyskočil, Marko Genyg-Berezovskyj 2009 Amortizovaná složitost Asymptotická složitost často dostatečně nevypovídá o složitosti algoritmů,
VíceE. Pohyblivářádováčárka
E. Pohyblivářádováčárka pevná a pohyblivá řádová čárka formát US Air Force MIL-STD-1750A základní operace normalizace přetečení a nenaplnění formátbflm 1 přímý kód sčítání a odčítání násobení, dělení a
VíceÚloha 1 Spojte binární obrazy na obrázku s hodnotami, které reprezentují.
7 Celá čísla Pro práci s celými čísly jsou v Javě typy byte, short, int a long. Všechny jsou znaménkové (připouštějí záporné hodnoty) a všechny používají doplňkový kód. Doplňkový kód definuje, jak jsou
VíceY36SAP - aritmetika. Osnova
Y36SAP - aritmetika Čísla se znaménkem a aritmetické operace pevná a pohyblivá řádová čárka Kubátová 2007 Y36SAP-aritmetika 1 Osnova Zobrazení záporných čísel Přímý, aditivní a doplňkový kód a operace
VíceVÝRAZY výrazy = operandy prokládané operátory, vyhodnocované podle priority operátorů
VÝRAZY výrazy = operandy prokládané operátory, vyhodnocované podle priority operátorů Výrazy podle priority operátorů (od nejnižší priority) OPERANDY OPERÁTORY výraz = jednoduché výrazy a relační operátory
VíceUNIVERZITA PARDUBICE. Fakulta elektrotechniky a informatiky. Vybrané problémy výpočtů na PC s pohyblivou řádovou čárkou Nomindalai Naranbaatar
UNIVERZITA PARDUBICE Fakulta elektrotechniky a informatiky Vybrané problémy výpočtů na PC s pohyblivou řádovou čárkou Nomindalai Naranbaatar Bakalářská práce 21 Prohlášení autora Prohlašuji, že jsem
VíceRacionální čísla, operátory, výrazy, knihovní funkce
Příprava studijního programu Informatika je podporována projektem financovaným z Evropského sociálního fondu a rozpočtu hlavního města Prahy. Praha & EU: Investujeme do vaší budoucnosti Racionální čísla,
VíceAlgoritmizace a programování
Algoritmizace a programování Řídicí struktury, standardní metody Problematika načítání pomocí Scanner Některé poznámky k příkazům Psaní kódu programu Metody třídy Math Obalové třídy primitivních datových
VíceČíselné soustavy v mikroprocesorové technice Mikroprocesorová technika a embedded systémy
Ústav radioelektroniky Vysoké učení technické v Brně Číselné soustavy v mikroprocesorové technice Mikroprocesorová technika a embedded systémy Přednáška 8 doc. Ing. Tomáš Frýza, Ph.D. listopad 2012 Obsah
VíceČísla a číselné soustavy.
Čísla a číselné soustavy. Polyadické soustavy. Převody mezi soustavami. Reprezentace čísel. Tomáš Bayer bayertom@natur.cuni.cz Katedra aplikované geoinformatiky a kartografie, Přírodovědecká fakulta UK.
VíceAlgoritmy I. Číselné soustavy přečíst!!! ALGI 2018/19
Algoritmy I Číselné soustavy přečíst!!! Číselné soustavy Každé číslo lze zapsat v poziční číselné soustavě ve tvaru: a n *z n +a n-1 *z n-1 +. +a 1 *z 1 +a 0 *z 0 +a -1 *z n-1 +a -2 *z -2 +.. V dekadické
VíceRacionální čísla, operátory, výrazy, knihovní funkce
Evropský sociální fond Praha & EU: Investujeme do vaší budoucnosti Racionální čísla, operátory, výrazy, knihovní funkce BI-PA1 Programování a algoritmizace 1 Katedra teoretické informatiky Miroslav Balík
VíceJava reprezentace dat, výrazy. A0B36PR1-Programování 1 Fakulta elektrotechnická České vysoké učení technické
Java reprezentace dat, výrazy A0B36PR1-Programování 1 Fakulta elektrotechnická České vysoké učení technické Dva základní přístupy k imperativnímu programování Strukturované procedurální Objektové V PR1
VícePokroky matematiky, fyziky a astronomie
Pokroky matematiky, fyziky a astronomie Milan Práger; Irena Sýkorová Jak počítače počítají Pokroky matematiky, fyziky a astronomie, Vol. 49 (2004), No. 1, 32 45 Persistent URL: http://dml.cz/dmlcz/141207
VíceExponent. Integer 4 bajty až Double Integer 8 bajtů až
1. Opakování teorie 1.1. Reprezentace čísel v počítači Celá čísla (přesné výpočty, velmi omezený rozsah): INTEGER => 2 byty = 16 bitů => 2 16 čísel LONGINT => 4 byty = 32 bitů => 2 32 čísel
VíceVariace. Mocniny a odmocniny
Variace 1 Mocniny a odmocniny Autor: Mgr. Jaromír JUŘEK Kopírování a jakékoliv další využití výukového materiálu je povoleno pouze s uvedením odkazu na www.jarjurek.cz. 1. Mocniny a odmocniny Obor přirozených
VíceÚvod do problematiky numerických metod. Numerické metody. Ústav matematiky. 6. února 2006
Numerické metody Doc. RNDr. Libor Čermák, CSc. RNDr. Rudolf Hlavička, CSc. Ústav matematiky Fakulta strojního inženýrství Vysoké učení technické v Brně 6. února 2006 Obsah Úvod do problematiky numerických
VíceStruktura a architektura počítačů
Struktura a architektura počítačů Aritmetické operace Pevná a pohyblivá řádová čárka České vysoké učení technické Fakulta elektrotechnická Ver..2 J. Zděnek 23 Aritmetické operace pevná řádová čárka Pevná
VíceOperátory. Základy programování 1 Martin Kauer (Tomáš Kühr)
Operátory Základy programování 1 Martin Kauer (Tomáš Kühr) Organizační poznámky Formátujte kód přehledně! Pomůžete sobě i mně. Spusťte si vaše programy a zkuste různé vstupy! Pokud program nedává správné
VíceElementární datové typy
Elementární datové typy Celočíselné typy (integers) Mohou nabývat množiny hodnot, která je podmnožinou celých čísel (někdy existuje implementační konstanta maxint). Operace: aritmetické, relační, bitové,
VíceStruktura a architektura počítačů (BI-SAP) 5
Evropský sociální fond Praha & EU: Investujeme do vaší budoucnosti Struktura a architektura počítačů (BI-SAP) 5 doc. Ing. Hana Kubátová, CSc. Katedra číslicového návrhu Fakulta informačních technologii
VíceJemný úvod do numerických metod
Jemný úvod do numerických metod Matematické algoritmy (11MAG) Jan Přikryl 8. přednáška 11MAG pondělí 24. listopadu 2014 verze:2014-11-24 16:34 Obsah 1 Úvod 1 1.1 Matematické modelování................................
VícePrincipy cpypočítačůčů a operačních systémů
Principy cpypočítačůčů a operačních systémů REPREZENTACE DAT There are only 10 types of people in the world: - those who understand d binary, - and those who don't. Literatura D.Goldberg: What Every Computer
VíceInformatika Datové formáty
Informatika Datové formáty Radim Farana Podklady předmětu Informatika pro akademický rok 2007/2008 Obsah Datové formáty (datové typy). Textové formáty, vlastnosti zdroje zpráv. Číselné formáty, číselné
VíceÚvod do programování 7. hodina
Úvod do programování 7. hodina RNDr. Jan Lánský, Ph.D. Katedra informatiky a matematiky Fakulta ekonomických studií Vysoká škola finanční a správní 2015 Umíme z minulé hodiny Syntax Znaky Vlastní implementace
VíceZáklady algoritmizace 2. Proměnné, datové typy
Jiří Vokřínek, 2016 B6B36ZAL - Přednáška 2 1 Základy algoritmizace 2. Proměnné, datové typy doc. Ing. Jiří Vokřínek, Ph.D. Katedra počítačů Fakulta elektrotechnická České vysoké učení technické v Praze
VíceKTE / PPEL Počítačová podpora v elektrotechnice
24. 9. 2014 KTE / PPEL Počítačová podpora v elektrotechnice Ing. Lenka Šroubová, Ph.D. email: lsroubov@kte.zcu.cz ICQ: 361057825 http://home.zcu.cz/~lsroubov tel.: +420 377 634 623 Místnost: EK602 Katedra
VíceStruktura a architektura počítačů
Struktura a architektura počítačů Aritmetické operace Pevná a pohyblivá řádová čárka České vysoké učení technické Fakulta elektrotechnická Ver.1.30 J. Zděnek / M. Chomát 2014 Aritmetické operace pevná
VíceAplikovaná informatika. Podklady předmětu Aplikovaná informatika pro akademický rok 2006/2007 Radim Farana. Obsah. Obsah předmětu
1 Podklady předmětu pro akademický rok 2006/2007 Radim Farana Obsah 2 Obsah předmětu, Požadavky kreditového systému, Datové typy jednoduché, složené, Programové struktury, Předávání dat. Obsah předmětu
VíceModel je umělý objekt, který reflektuje a reprodukuje základní vlastnosti, vztahy (strukturu) a funkce konkrétního objektu nebo
Modelování Model je umělý objekt, který reflektuje a reprodukuje základní vlastnosti, vztahy (strukturu) a funkce konkrétního objektu nebo jevu (skutečnosti) jednodušším způsobem a může tedy být využit
VíceFz =a z + a z +...+a z +a z =
Polyadické číselné soustavy - převody M-místná skupina prvků se z-stavovou abecedou umožňuje zobrazit z m čísel. Zjistíme, že stačí vhodně zvolit číslo m, abychom mohli zobrazit libovolné číslo menší než
VíceNPRG030 Programování I, 2018/19 1 / :25:37
NPRG030 Programování I, 2018/19 1 / 26 24. 9. 2018 10:25:37 Čísla v algoritmech a programech 10 26 Poloměr vesmíru 2651 studujících studentů MFF UK 3.142857... Ludolfovo číslo 10 16 stáří vesmíru v sekundách!!!
VíceTeoretická informatika Tomáš Foltýnek foltynek@pef.mendelu.cz. Algebra Struktury s jednou operací
Teoretická informatika Tomáš Foltýnek foltynek@pef.mendelu.cz Algebra Struktury s jednou operací Teoretická informatika 2 Proč zavádíme algebru hledáme nástroj pro popis objektů reálného světa (zejména
Více- speciální symboly + - * / =., < > <> <= >= a další. Klíčová slova jsou chráněnými útvary, které nelze použít ve významu identifikátorů.
Základní symboly - písmena A B C Y Z a b c y z - číslice 0 1 2 9 - speciální symboly + - * / =., < > = a další - klíčová slova and array begin case const a další Klíčová slova jsou chráněnými útvary,
VíceČísla, reprezentace, zjednodušené výpočty
Čísla, reprezentace, zjednodušené výpočty Přednáška 4 A3B38MMP kat. měření, ČVUT - FEL, Praha J. Fischer A3B38MMP, 2014, J.Fischer, ČVUT - FEL, kat. měření 1 Čísla 4 bitová dec bin. hex. 0 0000 0 1 0001
VíceAlgoritmizace a programování
Algoritmizace a programování Výrazy Operátory Výrazy Verze pro akademický rok 2012/2013 1 Operace, operátory Unární jeden operand, operátor se zapisuje ve většině případů před operand, v některých případech
VíceY36SAP. Osnova. Číselné soustavy a kódy, převody, aritmetické operace Y36SAP Poziční číselné soustavy a převody.
Y36SAP Číselné soustavy a kódy, převody, aritmetické operace Tomáš Brabec, Miroslav Skrbek - X36SKD-cvičení. Úpravy pro SAP Hana Kubátová Osnova Poziční číselné soustavy a převody Dvojková soust., převod
VíceČíselné soustavy. Binární číselná soustava
12. Číselné soustavy, binární číselná soustava. Kódování informací, binární váhový kód, kódování záporných čísel. Standardní jednoduché datové typy s pevnou a s pohyblivou řádovou tečkou. Základní strukturované
VíceDoňar B., Zaplatílek K.: MATLAB - tvorba uživatelských aplikací, BEN - technická literatura, Praha, (ISBN:
http://portal.zcu.cz > Portál ZČU > Courseware (sem lze i přímo: http://courseware.zcu.cz) > Předměty po fakultách > Fakulta elektrotechnická > Katedra teoretické elektrotechniky > PPEL Doňar B., Zaplatílek
VíceMikroprocesorová technika (BMPT)
Mikroprocesorová technika (BMPT) Přednáška č. 10 Číselné soustavy v mikroprocesorové technice Ing. Tomáš Frýza, Ph.D. Obsah přednášky Číselné soustavy v mikroprocesorové technice Dekadická, binární, hexadecimální
VíceTematický plán pro školní rok 2015/16 Předmět: Matematika Vyučující: Mgr. Marta Klimecká Týdenní dotace hodin: 5 hodin Ročník: třetí
ČASOVÉ OBDOBÍ Září KONKRÉTNÍ VÝSTUPY KONKRÉTNÍ UČIVO PRŮŘEZOVÁ TÉMATA rozezná, pojmenuje, vymodeluje úsečku a lomenou čáru porovnává velikost útvarů, měří a odhaduje délku úsečky užívá a zapisuje vztah
Více35POS 2010 Počítačové systémy 1 Úvod, jazyk C Doc. Ing. Bayer Jiří, Csc. Ing. Pavel Píša
35POS 2010 Počítačové systémy 1 Úvod, jazyk C Doc. Ing. Bayer Jiří, Csc. Ing. Pavel Píša http://dce.felk.cvut.cz/pos/ 1 Obsah předmětu Architektura počítače počítač jako prostředek řízení struktura a organizace
VícePočítání s neúplnými čísly 1
Aproximace čísla A: Počítání s neúplnými čísly 1 A = a ± nebo A a, a + Aproximace čísla B: B = b ± β nebo B b β, b + β nebo a A a+ nebo b β B b + β Součet neúplných čísel odvození: a + b β A + B a+ + (b
Více2. LMP SP 3. LMP SP + 2. LMP NSP. operace. Závislosti, vztahy a práce s daty. Závislosti, vztahy a práce s daty. v prostoru
ŠVP LMP Charakteristika vyučovacího předmětu Matematika Obsahové, časové a organizační vymezení vyučovacího předmětu Matematika Vzdělávací obsah předmětu Matematika je utvořen vzdělávacím obsahem vzdělávacího
VíceAritmetické operácie v rôznych číselných sústavách. Ľudmila MACEKOVÁ, KEMT-FEI-TUKE, sep. 2017
111010110 Aritmetické operácie v rôznych číselných +110111001 sústavách 1110001111 Ľudmila MACEKOVÁ, KEMT-FEI-TUKE, sep. 2017 Plán Prevody medzi ČS Zobrazenie informácií v ČS: - priamy kód - inverzný kód
VíceŘešení sady 1. Úvod do programování 1 Tomáš Kühr
Řešení sady 1 Úvod do programování 1 Tomáš Kühr Hello World #include #include int main(){ printf("hello world!\n"); return 0; } Práce s proměnnými 1/2 #include int main(){
VíceSeminář z IVT Proměnné a operátory. Slovanské gymnázium Olomouc 11. září 2014 Tomáš Kühr
Seminář z IVT Proměnné a operátory Slovanské gymnázium Olomouc 11. září 2014 Tomáš Kühr Jazyk C# Vysokoúrovňový objektově orientovaný programovací jazyk Vyvinutý firmou Microsoft zároveň s platformou.net
VíceTato tematika je zpracována v Záznamy přednášek: str. 214 235 + materiál: PrikladyZobrazeniCisel.pdf
Obsah 11. přednášky: Kódování dat - terminologie Rozdělení kódů Kódování čísel Kódování znaků Tato tematika je zpracována v Záznamy přednášek: str. 214 235 + materiál: PrikladyZobrazeniCisel.pdf Jak bude
VícePaměť počítače. alg2 1
Paměť počítače Výpočetní proces je posloupnost akcí nad daty uloženými v paměti počítače Data jsou v paměti reprezentována posloupnostmi bitů (bit = 0 nebo 1) Připomeňme: paměť je tvořena řadou 8-mi bitových
VíceČást 1 Organizace předmětu. Základní pojmy. Část 2 Programování a výpočty. Část 3 Programovací jazyk Java
Část 1 Organizace předmětu Základní pojmy Jan Faigl Katedra počítačů Fakulta elektrotechnická České vysoké učení technické v Praze Přednáška 1 A0B36PR1 Programování 1 Informace o předmětu Přednášky Cvičení
VíceAritmetické operace a obvody pro jejich realizaci
Kapitola 4 Aritmetické operace a obvody pro jejich realizaci 4.1 Polyadické číselné soustavy a jejich vlastnosti Polyadické soustavy jsou určeny přirozeným číslem z, kterému se říká základ nebo báze dané
VíceSystém je citlivý na velikost písmen CASE SENSITIVE rozeznává malá velká písmena, např. PROM=1; PROm=1; PRom=1; Prom=1; prom=1; - 5 různých proměnných
Systém je citlivý na velikost písmen CASE SENSITIVE rozeznává malá velká písmena, např. PROM=1; PROm=1; PRom=1; Prom=1; prom=1; - 5 různých proměnných jakési nádoby na hodnoty jsou různých typů při běžné
VíceÚvod do numerické matematiky
Úvod do numerické matematiky 1 Předmět numerické matematiky Numerická matematika je věda, která se zabývá řešením matematicky formulovaných úloh pomocí logických operací a aritmetických operací s čísly
Více3 Jednoduché datové typy 2 3.1 Interpretace čísel v paměti počítače... 3. 4 Problémy s matematickými operacemi 5
Obsah Obsah 1 Číselné soustavy 1 2 Paměť počítače 1 2.1 Měření objemu paměti počítače................... 1 3 Jednoduché datové typy 2 3.1 Interpretace čísel v paměti počítače................. 3 4 Problémy
VíceDatové typy pro reálná čísla
Datové typy pro reálná čísla V kapitole 2 jsme se seznámili s celočíselnými datovými typy. Pro uložení číselných hodnot ve velkém rozsahu obvykle nepožadujeme tak velkou přesnost, jakou nám poskytují celá
VícePB002 Základy informačních technologií
Operační systémy 25. září 2012 Struktura přednašky 1 Číselné soustavy 2 Reprezentace čísel 3 Operační systémy historie 4 OS - základní složky 5 Procesy Číselné soustavy 1 Dle základu: dvojková, osmičková,
Více1. Základní pojmy a číselné soustavy
1. Základní pojmy a číselné soustavy 1.1. Základní pojmy Hardware (technické vybavení počítače) Souhrnný název pro veškerá fyzická zařízení, kterými je počítač vybaven. Software (programové vybavení počítače)
VíceJan Nekvapil ČESKÉ VYSOKÉ UČENÍ TECHNICKÉ V PRAZE Fakulta elektrotechnická
Jan Nekvapil jan.nekvapil@tiscali.cz ČESKÉ VYSOKÉ UČENÍ TECHNICKÉ V PRAZE Fakulta elektrotechnická Motivace MMX, EMMX, MMX+ 3DNow!, 3DNow!+ SSE SSE2 SSE3 SSSE3 SSE4.2 Závěr 2 Efektivní práce s vektory
VíceOperátory, výrazy. Tomáš Pitner, upravil Marek Šabo
Operátory, výrazy Tomáš Pitner, upravil Marek Šabo Operátor "Znaménko operace", pokyn pro vykonání operace při vyhodnocení výrazu. V Javě mají operátory napevno daný význam, nelze je přetěžovat jako v
Více1. 1 P Ř I R O Z E N Á Č Í S L A
1. Č Í S E L N É O B O R Y 1. 1 P Ř I R O Z E N Á Č Í S L A Přirozená čísla (definice, značení, množinový zápis) Číslice (cifry 0 9) Číslo (rozvinutý resp. zkrácený zápis přirozeného čísla v desítkové
VíceDělení. MI-AAK(Aritmetika a kódy)
MI-AAK(Aritmetika a kódy) Dělení c doc. Ing. Alois Pluháček, CSc., 2011 Katedra číslicového návrhu Fakulta informačních technologií České vysoké učení technické v Praze Evropský sociální fond Praha& EU:
VíceFormátová specifikace má tvar (některé sekce nemají smysl pro načítání) %
vstup a výstup na konzolu - vstupním zařízením je klávesnice, výstupním monitor (přístup jako k sériovým zařízením) - spojení s konzolami je nastaveno automaticky na začátku programu - ke konzole je možné
VíceDatové typy pro reálná čísla
Datové typy pro reálná čísla KAPITOLA 3 V této kapitole: Vlastnosti datových typů pro reálná čísla v jazyce C/ C++ Vstupně/výstupní operace z pohledu reálných čísel Aritmetické operace s reálnými čísly
VíceOperátory. Základy programování 1 Tomáš Kühr
Operátory Základy programování 1 Tomáš Kühr Operátory a jejich vlastnosti Základní konstrukce (skoro) každého jazyka Z daných operandů vytvoří výsledek, který je možné dále využívat Arita udává počet operandů
VíceČísla v počítači Výpočetní technika I
.. Výpočetní technika I Ing. Pavel Haluza ústav informatiky PEF MENDELU v Brně pavel.haluza@mendelu.cz Osnova přednášky ergonomie údržba počítače poziční a nepoziční soustavy převody mezi aritmetické operace
VíceAritmetika s didaktikou I.
Katedra matematiky PF UJEP Aritmetika s didaktikou I. KM1 / 0001 Přednáška 10 Dělení se zbytkem O čem budeme hovořit: Binární operace dělení se zbytkem v N Struktury zbytkových tříd podle modulu Seznámíme
VícePřednáška 2: Čísla v počítači. Práce s počítačem. Číselné soustavy. Převody mezi soustavami. Aritmetické operace. Uložení čísel v paměti počítače
Ergonomie Ergonomie Osnova přednášky Výpočetní technika I Ing Pavel Haluza ústav informatiky PEF MENDELU v Brně pavelhaluza@mendelucz ergonomie údržba počítače poziční a nepoziční soustavy převody mezi
VíceÚvod do informačních technologií
Úvod do informačních technologií přednášky Jan Outrata září prosinec 2009 (aktualizace září prosinec 2012) Jan Outrata (KI UP) Úvod do informačních technologií září prosinec 2012 1 / 34 Reprezentace dat
VíceZÁKLADNÍ ŠKOLA PŘI DĚTSKÉ LÉČEBNĚ Ostrov u Macochy, Školní 363 INOVACE VÝUKY CZ.1.07/1.4.00/21.0647
ZÁKLADNÍ ŠKOLA PŘI DĚTSKÉ LÉČEBNĚ Ostrov u Macochy, Školní 363 INOVACE VÝUKY CZ.1.07/1.4.00/21.0647 Název vzdělávacího materiálu: Anotace: Vzdělávací oblast: VY_32_INOVACE_ARITMETIKA+ALGEBRA15 Sčítání,
VíceČísla, reprezentace, zjednodušené výpočty
Čísla, reprezentace, zjednodušené výpočty Přednáška 5 A3B38MMP kat. měření, ČVUT - FEL, Praha J. Fischer A3B38MMP, 2015, J.Fischer, ČVUT - FEL, kat. měření 1 Čísla 4 bitová dec bin. hex. 0 0000 0 1 0001
VíceLEKCE 6. Operátory. V této lekci najdete:
LEKCE 6 Operátory V této lekci najdete: Aritmetické operátory...94 Porovnávací operátory...96 Operátor řetězení...97 Bitové logické operátory...97 Další operátory...101 92 ČÁST I: Programování v jazyce
Více2. Mocniny 2.1 Mocniny a odmocniny
. Mocniny. Mocniny a odmocniny 8. ročník. Mocniny a odmocniny Příklad : Vyjádřete jako mocninu : a)... b) (- ). (- ). (- ). (- ). (- ). (- ) c)...a.a.a.a.b.b.b.b d)..a.b e) a. a. a. a Příklad : Vyjádřete
VíceVyhledávání. doc. Mgr. Jiří Dvorský, Ph.D. Katedra informatiky Fakulta elektrotechniky a informatiky VŠB TU Ostrava. Prezentace ke dni 12.
Vyhledávání doc. Mgr. Jiří Dvorský, Ph.D. Katedra informatiky Fakulta elektrotechniky a informatiky VŠB TU Ostrava Prezentace ke dni 12. září 2016 Jiří Dvorský (VŠB TUO) Vyhledávání 201 / 344 Osnova přednášky
VíceZŠ ÚnO, Bratří Čapků 1332
Úvodní obrazovka Menu Návrat na hlavní stránku Obsah Výsledky Poznámky Záložky edunet Konec Matematika 2 (pro 9-12 let) LangMaster Obsah (střední část) výběr tématu - dvojklikem v seznamu témat (horní
VíceStruktury a uniony, přesnost výpočtů a vnitřní reprezentace číselných typů
Struktury a uniony, přesnost výpočtů a vnitřní reprezentace číselných typů Jan Faigl Katedra počítačů Fakulta elektrotechnická České vysoké učení technické v Praze Přednáška 07 B0B36PRP Procedurální programování
VíceStruktury a uniony, přesnost výpočtů a vnitřní reprezentace číselných typů
Struktury a uniony, přesnost výpočtů a vnitřní reprezentace číselných typů Jan Faigl Katedra počítačů Fakulta elektrotechnická České vysoké učení technické v Praze Přednáška 07 B0B36PRP Procedurální programování
Vícea jeho hodnotu pro x = 2 a jeho hodnotu pro x = 2 3 x. a jeho hodnotu pro x = 2 a jeho hodnotu pro x = 6; x = 13 28 = 1 7 a jeho hodnotu pro x = 2
Obsah Definiční obory výrazů s proměnnou... Zápisy výrazů...3 Sčítání a odčítání mnohočlenů...4 Násobení mnohočlenů...5 Dělení mnohočlenů...7 Rozklad mnohočlenů na součin vytýkání...9 Rozklad mnohočlenů
VíceF6180 Úvod do nelineární dynamiky. F6150 Pokročilé numerické metody FX003 Plánování a vyhodnocování experimentu. F7780 Nelineární vlny a solitony
Moderní metody modelování ve fyzice jaro 2015 přednáša: D. Hemzal cvičení: F. Münz F1400 Programování F5330 Záladní numericé metody F7270 Matematicé metody zpracování měření F6180 Úvod do nelineární dynamiy
VíceČást 1 Struktury a uniony Struktury struct Proměnné se sdílenou pamětí union Příklad
Struktury a uniony, přesnost výpočtů a vnitřní reprezentace číselných typů Jan Faigl Katedra počítačů Fakulta elektrotechnická České vysoké učení technické v Praze Přednáška 07 B0B36PRP Procedurální programování
Více